Término del glosario de IA

¿Qué es BPE (codificación de pares de bytes)?

Definición

Un algoritmo de tokenización de subpalabras que fusiona los pares de caracteres más frecuentes en tokens reutilizables.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

TokenizaciónEl proceso de dividir el texto en tokens para la entrada del modelo.OCR (reconocimiento óptico de caracteres)Tecnología que convierte texto en imágenes o escaneados en texto legible por máquina.Muestreo Top-kUna estrategia de decodificación que toma muestras solo de los k tokens siguientes más probables.Propagación hacia atrásEl algoritmo de entrenamiento central que actualiza los pesos del modelo propagando los errores de predicción hacia atrás a través de la red.BicodificadorUn modelo que codifica consultas y documentos en vectores separados para que puedan compararse rápidamente a escala.Búsqueda de hazUn algoritmo de decodificación que mantiene las principales secuencias candidatas en cada paso para encontrar resultados de mayor probabilidad.

Obtenga más información en nuestras guías gratuitas.

ByteDance DoubaoCycleGAN Unpaired TranslationTokenizer-Free Byte-Level ModelsInstant-NGP Hash Encoding

Véase también

Sliding Window AttentionSentencePieceALiBiANN (Approximate Nearest Neighbor)RoPE (Rotary Positional Embeddings)HNSWPositional EncodingReranker