What is Frequency Penalty? Definition | AI Understanding

Определение

Настройка за декодиране, която намалява вероятността за токени пропорционално на това колко често са се появявали досега.

Свързани термини

Наказание за присъствие

Настройка за декодиране, която намалява вероятността токените да са се появили изобщо, насърчавайки нови теми.

Наказание за повторение

Настройка за декодиране, която намалява вероятността за токени, които моделът вече е произвел, за да намали циклите.

Показател на езиков модел, измерващ колко изненадан е моделът от истинските следващи токени.

Вземане на проби от Top-k

Стратегия за декодиране, която взема проби само от k най-вероятните следващи токена.

Защитено декодиране

Стратегия за генериране, която ограничава изходните токени до валидни структури или съвместими с правилата избори.

Спекулативно декодиране

Метод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.

Научете повече в нашите безплатни ръководства

Repetition Penalty and Decoding Controls Mel-Frequency Cepstral Coefficients

See also

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI