Глоссарий терминов искусственного интеллекта

Что такое Вывод?

Определение

Фаза выполнения, на которой обученная модель генерирует прогнозы или выходные данные.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Конечная точка выводаРазвернутый интерфейс API, который получает запросы модели и возвращает прогнозы в рабочей среде.Человек в курсеРабочий процесс, в котором люди проверяют, направляют или игнорируют результаты ИИ.Конституционный ИИПодход к обучению и формированию поведения, при котором результаты модели определяются фиксированным набором письменных принципов.Дистиллированная модельМеньшая модель обучена имитировать поведение более крупной модели, используя при этом меньше вычислений.Биллинг на основе использованияЦены, при которых затраты масштабируются в зависимости от вызовов API, токенов, времени вывода или потребляемых вычислительных ресурсов.Спекулятивное декодированиеМетод ускорения вывода, при котором небольшая черновая модель предлагает токены, которые параллельно проверяет более крупная модель.

Узнайте больше в наших бесплатных руководствах.

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

См. также

In-Context LearningInference-Time ComputeHyperparameterInstruction TuningIntent ClassificationHallucinationJailbreakGuardrails