Навчання Новини Інструм.Вакансії Місія

Термін глосарію AI

Що таке Висновок?

Визначення

Фаза виконання, на якій навчена модель генерує прогнози або результати.

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту

Кінцева точка висновкуРозгорнутий інтерфейс API, який отримує запити моделі та повертає прогнози у виробництві.Людина в цикліРобочий процес, у якому люди переглядають, направляють або скасовують результати ШІ.Конституційний ШІПідхід до навчання та формування поведінки, коли результати моделі керуються фіксованим набором письмових принципів.Дистильована модельМенша модель, навчена імітувати поведінку більшої моделі, використовуючи менше обчислень для висновку.Оплата на основі використанняЦіноутворення, де витрати масштабуються з викликами API, маркерами, часом висновку або споживаними обчисленнями.Спекулятивне декодуванняМетод прискорення логічного висновку, коли маленька чернеткова модель пропонує токени, які більша модель перевіряє паралельно.

Дізнайтеся більше в наших безкоштовних посібниках

AI Inference AI Inference Optimization LLM Inference Routing and Load Balancing Seldon Core and Inference Graphs

Дивіться також

In-Context Learning Inference-Time Compute Hyperparameter Instruction Tuning Intent Classification Hallucination Jailbreak Guardrails