Глоссарий терминов искусственного интеллекта

Что такое Конечная точка вывода?

Определение

Развернутый интерфейс API, который получает запросы модели и возвращает прогнозы в рабочей среде.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

API (интерфейс прикладного программирования)Структурированный способ отправки одной программной системой запросов и получения ответов от другой системы.ВыводФаза выполнения, на которой обученная модель генерирует прогнозы или выходные данные.Биллинг на основе использованияЦены, при которых затраты масштабируются в зависимости от вызовов API, токенов, времени вывода или потребляемых вычислительных ресурсов.Вычисление времени выводаКоличество вычислительной мощности, потребляемой при создании каждого ответа.Дерево решенийМодель, которая делает прогнозы с помощью последовательности разделений признаков «если-то».АнсамбльОбъединение прогнозов из нескольких моделей для повышения надежности или точности.

Узнайте больше в наших бесплатных руководствах.

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

См. также

Human Preference ModelKnowledge BaseGuarded DecodingLatent SpaceGroundednessModel RegistryFeature StoreOn-Device AI