Термін глосарію AI

Що таке Захищене декодування?

Визначення

Стратегія генерації, яка обмежує вихідні маркери дійсними структурами або виборами, сумісними з політикою.

Перегляньте повний Глосарій ШІПерегляньте всі безкоштовні посібники зі штучного інтелекту

Споріднені терміни

Вибірка Top-kСтратегія декодування, яка виконує вибірку лише з k найімовірніших наступних токенів.Top-p (Ядро) ВибіркаСтратегія декодування, яка бере вибірку з найменшого набору токенів, сума ймовірностей якого дорівнює p.Парсер виводуЛогіка, яка перевіряє та перетворює вихідні дані моделі в строго типізовані структури, які можна використовувати машиною.Спекулятивне декодуванняМетод прискорення логічного висновку, коли маленька чернеткова модель пропонує токени, які більша модель перевіряє паралельно.Штраф за повторенняНалаштування декодування, яке знижує ймовірність токенів, які вже створила модель, щоб зменшити кількість циклів.Штраф за частотуНалаштування декодування, яке зменшує ймовірність появи токенів пропорційно частоті їх появи.

Дізнайтеся більше в наших безкоштовних посібниках

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

Дивіться також

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space