Aprender Noticias Herramientas Empleos Misión

Término del glosario de IA

¿Qué es Ventana de contexto?

Definición

La cantidad máxima de tokens de entrada que un modelo de lenguaje puede procesar a la vez.

Explore el glosario completo de IA Explora todas las guías gratuitas de IA

TokenizaciónEl proceso de dividir el texto en tokens para la entrada del modelo.Deriva de datosUn cambio en los datos de entrada del mundo real a lo largo del tiempo que puede degradar el rendimiento del modelo.Modelo multimodalUn modelo que puede procesar o generar múltiples tipos de datos, como texto, imagen y audio.PerplexityUna métrica del modelo de lenguaje que mide cuán sorprendido está el modelo por los próximos tokens verdaderos.rápidoLas instrucciones de entrada y el contexto proporcionados a un modelo generativo.Atención de ventana corredizaUn patrón de atención en el que cada token atiende solo a una ventana de tamaño fijo de tokens cercanos para reducir la computación.

Obtenga más información en nuestras guías gratuitas.

Model Context Protocol Position Interpolation for Context Extension YaRN Context Window Scaling YaRN and Context Length Extension

Véase también

Computer Vision Continual Learning Compute Convolutional Neural Network (CNN)CLIP Cross-Entropy Loss Classifier Data Augmentation