Глоссарий терминов искусственного интеллекта

Что такое Биллинг на основе использования?

Определение

Цены, при которых затраты масштабируются в зависимости от вызовов API, токенов, времени вывода или потребляемых вычислительных ресурсов.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Вычисление времени выводаКоличество вычислительной мощности, потребляемой при создании каждого ответа.Вычисление во время тестированияДополнительные вычисления вывода, используемые во время формирования ответа для улучшения качества или рассуждения.Спекулятивное декодированиеМетод ускорения вывода, при котором небольшая черновая модель предлагает токены, которые параллельно проверяет более крупная модель.Раздвижное окно ВниманиеСхема внимания, при которой каждый токен обращается только к окну соседних токенов фиксированного размера для сокращения вычислительных ресурсов.ВыводФаза выполнения, на которой обученная модель генерирует прогнозы или выходные данные.RAG (генерация с расширенным поиском)Метод, который извлекает внешние знания и вводит их в генерацию во время вывода.

Узнайте больше в наших бесплатных руководствах.

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

См. также

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop