Какво е Извод?

Разгърнат API интерфейс, който получава заявки за модели и връща прогнози в производството.

Работен процес, при който хората преглеждат, насочват или отменят изходите на AI.

Подход за обучение и формиране на поведение, при който резултатите от модела се ръководят от фиксиран набор от писмени принципи.

По-малък модел, обучен да имитира поведението на по-голям модел, като същевременно използва по-малко изчисления при извод.

Ценообразуване, при което разходите се мащабират с извиквания на API, токени, време за извод или изразходвани изчисления.

Метод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.