What is Context Window? Definition | AI Understanding

Définition

Nombre maximum de jetons d'entrée qu'un modèle de langage peut traiter simultanément.

Termes associés

Le processus de division du texte en jetons pour la saisie du modèle.

Dérive des données

Un changement dans les données d'entrée du monde réel au fil du temps qui peut dégrader les performances du modèle.

Modèle multimodal

Un modèle capable de traiter ou de générer plusieurs types de données tels que du texte, des images et de l'audio.

Une métrique de modèle de langage mesurant à quel point le modèle est surpris par les vrais prochains jetons.

Les instructions d'entrée et le contexte fournis à un modèle génératif.

Attention fenêtre coulissante

Un modèle d'attention dans lequel chaque jeton s'occupe uniquement d'une fenêtre de taille fixe de jetons à proximité pour réduire le calcul.

Apprenez-en davantage dans nos guides gratuits

Model Context Protocol Position Interpolation for Context Extension YaRN Context Window Scaling YaRN and Context Length Extension

Voir aussi

Computer Vision Continual Learning Compute Convolutional Neural Network (CNN)CLIP Cross-Entropy Loss Classifier Data Augmentation

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA