Обучение Новини Инструм.Работни места Мисия

Термин от речника на AI

Какво е Наказание за повторение?

Определение

Настройка за декодиране, която намалява вероятността за токени, които моделът вече е произвел, за да намали циклите.

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI

Наказание за честотаНастройка за декодиране, която намалява вероятността за токени пропорционално на това колко често са се появявали досега.Наказание за присъствиеНастройка за декодиране, която намалява вероятността токените да са се появили изобщо, насърчавайки нови теми.Вземане на проби от Top-kСтратегия за декодиране, която взема проби само от k най-вероятните следващи токена.Защитено декодиранеСтратегия за генериране, която ограничава изходните токени до валидни структури или съвместими с правилата избори.Спекулативно декодиранеМетод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.Плъзгащ се прозорец ВниманиеМодел на внимание, при който всеки токен обръща внимание само на прозорец с фиксиран размер от близки токени, за да намали изчисленията.

Научете повече в нашите безплатни ръководства

Repetition Penalty and Decoding Controls AI Flashcards and Spaced Repetition

Вижте също

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking