Термін глосарію AI

Що таке Кінцева точка висновку?

Визначення

Розгорнутий інтерфейс API, який отримує запити моделі та повертає прогнози у виробництві.

Перегляньте повний Глосарій ШІПерегляньте всі безкоштовні посібники зі штучного інтелекту

Споріднені терміни

API (інтерфейс прикладного програмування)Структурований спосіб для однієї програмної системи надсилати запити до іншої системи та отримувати відповіді від неї.ВисновокФаза виконання, на якій навчена модель генерує прогнози або результати.Оплата на основі використанняЦіноутворення, де витрати масштабуються з викликами API, маркерами, часом висновку або споживаними обчисленнями.Висновок-обчислення часуКількість обчислювальної потужності, спожитої під час створення кожної відповіді.Дерево рішеньМодель, яка робить прогнози через послідовність розділення функцій «якщо-тоді».АнсамбльОб’єднання прогнозів із кількох моделей для підвищення надійності та точності.

Дізнайтеся більше в наших безкоштовних посібниках

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

Дивіться також

Human Preference ModelKnowledge BaseGuarded DecodingLatent SpaceGroundednessModel RegistryFeature StoreOn-Device AI