Що є Захищене декодування?

Стратегія декодування, яка виконує вибірку лише з k найімовірніших наступних токенів.

Стратегія декодування, яка бере вибірку з найменшого набору токенів, сума ймовірностей якого дорівнює p.

Логіка, яка перевіряє та перетворює вихідні дані моделі в строго типізовані структури, які можна використовувати машиною.

Метод прискорення логічного висновку, коли маленька чернеткова модель пропонує токени, які більша модель перевіряє паралельно.

Налаштування декодування, яке знижує ймовірність токенів, які вже створила модель, щоб зменшити кількість циклів.

Налаштування декодування, яке зменшує ймовірність появи токенів пропорційно частоті їх появи.