Обучение Новини Инструм.Работни места Мисия

Термин от речника на AI

Какво е Наказание за присъствие?

Определение

Настройка за декодиране, която намалява вероятността токените да са се появили изобщо, насърчавайки нови теми.

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI

Наказание за честотаНастройка за декодиране, която намалява вероятността за токени пропорционално на това колко често са се появявали досега.Наказание за повторениеНастройка за декодиране, която намалява вероятността за токени, които моделът вече е произвел, за да намали циклите.Вземане на проби от Top-kСтратегия за декодиране, която взема проби само от k най-вероятните следващи токена.Защитено декодиранеСтратегия за генериране, която ограничава изходните токени до валидни структури или съвместими с правилата избори.Спекулативно декодиранеМетод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.KV КешСъхранени тензори на ключове и стойности от предишни токени, които позволяват на трансформаторите да генерират нови токени, без да преизчисляват миналото внимание.

Научете повече в нашите безплатни ръководства

Repetition Penalty and Decoding Controls

Вижте също

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking