Какво е контекстен прозорец? Определение | AI Understanding

Определение

Максималното количество входни токени, които един езиков модел може да обработва наведнъж.

Свързани термини

Токенизация

Процесът на разделяне на текст на токени за въвеждане на модел.

Дрейф на данни

Промяна във входните данни от реалния свят с течение на времето, която може да влоши производителността на модела.

Мултимодален модел

Модел, който може да обработва или генерира множество типове данни като текст, изображение и аудио.

Показател на езиков модел, измерващ колко изненадан е моделът от истинските следващи токени.

Инструкциите за въвеждане и контекстът, предоставени на генериращ модел.

Плъзгащ се прозорец Внимание

Модел на внимание, при който всеки токен обръща внимание само на прозорец с фиксиран размер от близки токени, за да намали изчисленията.

Научете повече в нашите безплатни ръководства

Model Context Protocol Position Interpolation for Context Extension YaRN Context Window Scaling YaRN and Context Length Extension

See also

Computer Vision Continual Learning Compute Convolutional Neural Network (CNN)CLIP Cross-Entropy Loss Classifier Data Augmentation

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI