Що є Висновок?

Розгорнутий інтерфейс API, який отримує запити моделі та повертає прогнози у виробництві.

Робочий процес, у якому люди переглядають, направляють або скасовують результати ШІ.

Підхід до навчання та формування поведінки, коли результати моделі керуються фіксованим набором письмових принципів.

Менша модель, навчена імітувати поведінку більшої моделі, використовуючи менше обчислень для висновку.

Ціноутворення, де витрати масштабуються з викликами API, маркерами, часом висновку або споживаними обчисленнями.

Метод прискорення логічного висновку, коли маленька чернеткова модель пропонує токени, які більша модель перевіряє паралельно.