What is Context Window? Definition | AI Understanding

Definicja

Maksymalna ilość tokenów wejściowych, które model języka może przetworzyć jednocześnie.

Powiązane terminy

Proces dzielenia tekstu na tokeny na potrzeby wprowadzania danych modelu.

Zmiana rzeczywistych danych wejściowych w czasie, która może obniżyć wydajność modelu.

Model multimodalny

Model, który może przetwarzać lub generować wiele typów danych, takich jak tekst, obraz i dźwięk.

Metryka modelu językowego mierząca stopień zaskoczenia modelu prawdziwymi następnymi tokenami.

Instrukcje wejściowe i kontekst dostarczony do modelu generatywnego.

Uwaga na przesuwane okno

Wzorzec uwagi, w którym każdy token obsługuje tylko okno pobliskich tokenów o stałym rozmiarze, aby zmniejszyć obliczenia.

Dowiedz się więcej z naszych bezpłatnych przewodników

Model Context Protocol Position Interpolation for Context Extension YaRN Context Window Scaling YaRN and Context Length Extension

Zobacz także

Computer Vision Continual Learning Compute Convolutional Neural Network (CNN)CLIP Cross-Entropy Loss Classifier Data Augmentation

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI