Termine del glossario AI

Cos'è BPE (codifica coppia di byte)?

Definizione

Un algoritmo di tokenizzazione delle sottoparole che unisce le coppie di caratteri più frequenti in token riutilizzabili.

Termini correlati

Tokenizzazione
Il processo di suddivisione del testo in token per l'input del modello.
OCR (riconoscimento ottico dei caratteri)
Tecnologia che converte il testo in immagini o esegue la scansione in testo leggibile dalla macchina.
Campionamento Top-k
Una strategia di decodifica che campiona solo dai k token successivi più probabili.
Propagazione all'indietro
L'algoritmo di training principale che aggiorna i pesi del modello propagando gli errori di previsione all'indietro attraverso la rete.
Bi-Encoder
Un modello che codifica query e documenti in vettori separati in modo che possano essere confrontati rapidamente su larga scala.
Ricerca del raggio
Un algoritmo di decodifica che mantiene le prime sequenze candidate in ogni passaggio per trovare output con maggiore probabilità.

Scopri di più nelle nostre guide gratuite

ByteDance DoubaoCycleGAN Unpaired TranslationTokenizer-Free Byte-Level ModelsInstant-NGP Hash Encoding

Vedi anche

Sliding Window AttentionSentencePieceALiBiANN (Approximate Nearest Neighbor)RoPE (Rotary Positional Embeddings)HNSWPositional EncodingReranker
Sfoglia il glossario completo dell'intelligenza artificialeEsplora tutte le guide gratuite sull'intelligenza artificiale