Istilah Glosari AI

Apakah BPE (Pengekodan Pasangan Byte)?

Definisi

Algoritma tokenisasi subkata yang menggabungkan pasangan aksara yang paling kerap menjadi token boleh guna semula.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

TokenisasiProses pembahagian teks kepada token untuk input model.OCR (Pengecaman Aksara Optik)Teknologi yang menukar teks dalam imej atau mengimbas kepada teks yang boleh dibaca mesin.Persampelan Top-kStrategi penyahkodan yang hanya mengambil sampel daripada k kemungkinan besar token seterusnya.Penyebaran balikAlgoritma latihan teras yang mengemas kini berat model dengan menyebarkan ralat ramalan ke belakang melalui rangkaian.Pengekod DwiModel yang mengekod pertanyaan dan dokumen ke dalam vektor yang berasingan supaya ia boleh dibandingkan dengan cepat pada skala.Carian RasukAlgoritma penyahkodan yang mengekalkan beberapa jujukan calon teratas pada setiap langkah untuk mencari output berkemungkinan lebih tinggi.

Ketahui lebih lanjut dalam panduan percuma kami

ByteDance DoubaoCycleGAN Unpaired TranslationTokenizer-Free Byte-Level ModelsInstant-NGP Hash Encoding

Lihat juga

Sliding Window AttentionSentencePieceALiBiANN (Approximate Nearest Neighbor)RoPE (Rotary Positional Embeddings)HNSWPositional EncodingReranker