Глоссарий терминов искусственного интеллекта

Что такое Штраф за повторение?

Определение

Параметр декодирования, который снижает вероятность токенов, которые модель уже создала, чтобы уменьшить количество циклов.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Штраф за частотуНастройка декодирования, которая снижает вероятность появления токенов пропорционально тому, как часто они появлялись на данный момент.Штраф за присутствиеНастройка декодирования, которая снижает вероятность появления токенов вообще, поощряя новые темы.Топ-k выборкаСтратегия декодирования, которая производит выборку только из k наиболее вероятных следующих токенов.Защищенное декодированиеСтратегия генерации, которая ограничивает выходные токены допустимыми структурами или вариантами, совместимыми с политикой.Спекулятивное декодированиеМетод ускорения вывода, при котором небольшая черновая модель предлагает токены, которые параллельно проверяет более крупная модель.Раздвижное окно ВниманиеСхема внимания, при которой каждый токен обращается только к окну соседних токенов фиксированного размера для сокращения вычислительных ресурсов.

Узнайте больше в наших бесплатных руководствах.

Repetition Penalty and Decoding ControlsAI Flashcards and Spaced Repetition

См. также

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking