Термин от речника на AI

Какво е Защитено декодиране?

Определение

Стратегия за генериране, която ограничава изходните токени до валидни структури или съвместими с правилата избори.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

Вземане на проби от Top-kСтратегия за декодиране, която взема проби само от k най-вероятните следващи токена.Top-p (ядро) вземане на пробиСтратегия за декодиране, която взема проби от най-малкия набор от символи, чиято сума на вероятностите е p.Анализатор на изходаЛогика, която валидира и преобразува изхода на модела в строго типизирани, машинно използваеми структури.Спекулативно декодиранеМетод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.Наказание за повторениеНастройка за декодиране, която намалява вероятността за токени, които моделът вече е произвел, за да намали циклите.Наказание за честотаНастройка за декодиране, която намалява вероятността за токени пропорционално на това колко често са се появявали досега.

Научете повече в нашите безплатни ръководства

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

Вижте също

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space