Глоссарий терминов искусственного интеллекта

Что такое Штраф за частоту?

Определение

Настройка декодирования, которая снижает вероятность появления токенов пропорционально тому, как часто они появлялись на данный момент.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Штраф за присутствиеНастройка декодирования, которая снижает вероятность появления токенов вообще, поощряя новые темы.Штраф за повторениеПараметр декодирования, который снижает вероятность токенов, которые модель уже создала, чтобы уменьшить количество циклов.PerplexityМетрика языковой модели, измеряющая, насколько модель удивлена ​​истинными следующими токенами.Топ-k выборкаСтратегия декодирования, которая производит выборку только из k наиболее вероятных следующих токенов.Защищенное декодированиеСтратегия генерации, которая ограничивает выходные токены допустимыми структурами или вариантами, совместимыми с политикой.Спекулятивное декодированиеМетод ускорения вывода, при котором небольшая черновая модель предлагает токены, которые параллельно проверяет более крупная модель.

Узнайте больше в наших бесплатных руководствах.

Repetition Penalty and Decoding ControlsMel-Frequency Cepstral CoefficientsTime-Frequency Masking for Source SeparationHigh-Frequency Trading Explained

См. также

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking