What is Frequency Penalty? Definition | AI Understanding

Определение

Настройка декодирования, которая снижает вероятность появления токенов пропорционально тому, как часто они появлялись на данный момент.

Связанные термины

Штраф за присутствие

Настройка декодирования, которая снижает вероятность появления токенов вообще, поощряя новые темы.

Штраф за повторение

Параметр декодирования, который снижает вероятность токенов, которые модель уже создала, чтобы уменьшить количество циклов.

Метрика языковой модели, измеряющая, насколько модель удивлена истинными следующими токенами.

Топ-k выборка

Стратегия декодирования, которая производит выборку только из k наиболее вероятных следующих токенов.

Защищенное декодирование

Стратегия генерации, которая ограничивает выходные токены допустимыми структурами или вариантами, совместимыми с политикой.

Спекулятивное декодирование

Метод ускорения вывода, при котором небольшая черновая модель предлагает токены, которые параллельно проверяет более крупная модель.

Узнайте больше в наших бесплатных руководствах.

Repetition Penalty and Decoding Controls Mel-Frequency Cepstral Coefficients

См. также

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking

Просмотрите полный глоссарий AI Изучите все бесплатные руководства по искусственному интеллекту