Обучение Новини Инструм.Работни места Мисия

Термин от речника на AI

Какво е Извод?

Определение

Фазата на изпълнение, при която обучен модел генерира прогнози или резултати.

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI

Крайна точка на изводаРазгърнат API интерфейс, който получава заявки за модели и връща прогнози в производството.Човек в цикълаРаботен процес, при който хората преглеждат, насочват или отменят изходите на AI.Конституционен AIПодход за обучение и формиране на поведение, при който резултатите от модела се ръководят от фиксиран набор от писмени принципи.Дестилиран моделПо-малък модел, обучен да имитира поведението на по-голям модел, като същевременно използва по-малко изчисления при извод.Таксуване въз основа на употребатаЦенообразуване, при което разходите се мащабират с извиквания на API, токени, време за извод или изразходвани изчисления.Спекулативно декодиранеМетод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.

Научете повече в нашите безплатни ръководства

AI Inference AI Inference Optimization LLM Inference Routing and Load Balancing Seldon Core and Inference Graphs

Вижте също

In-Context Learning Inference-Time Compute Hyperparameter Instruction Tuning Intent Classification Hallucination Jailbreak Guardrails