What is Context Window? Definition | AI Understanding

Визначення

Максимальна кількість вхідних токенів, які мовна модель може обробити одночасно.

Споріднені терміни

Токенізація

Процес поділу тексту на маркери для введення моделі.

Дрейф даних

Зміна вхідних даних реального світу з часом, що може погіршити продуктивність моделі.

Мультимодальна модель

Модель, яка може обробляти або генерувати кілька типів даних, таких як текст, зображення та аудіо.

Показник мовної моделі, який вимірює, наскільки модель здивована справжніми наступними токенами.

Підкажіть

Вхідні інструкції та контекст, надані для генеративної моделі.

Розсувне вікно Увага

Шаблон уваги, де кожен маркер звертається лише до вікна фіксованого розміру сусідніх маркерів, щоб зменшити обчислення.

Дізнайтеся більше в наших безкоштовних посібниках

Model Context Protocol Position Interpolation for Context Extension YaRN Context Window Scaling YaRN and Context Length Extension

See also

Computer Vision Continual Learning Compute Convolutional Neural Network (CNN)CLIP Cross-Entropy Loss Classifier Data Augmentation

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту