Навчання Новини Інструм.Вакансії Місія

Термін глосарію AI

Що таке Висновок-обчислення часу?

Визначення

Кількість обчислювальної потужності, спожитої під час створення кожної відповіді.

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту

Обчислення тестового часуДодаткове обчислення логічного висновку, яке використовується під час генерації відповіді для покращення якості чи аргументації.Оплата на основі використанняЦіноутворення, де витрати масштабуються з викликами API, маркерами, часом висновку або споживаними обчисленнями.Дистильована модельМенша модель, навчена імітувати поведінку більшої моделі, використовуючи менше обчислень для висновку.ОбчислитиРесурси обробки, необхідні для навчання та запуску моделей, часто вимірюються в FLOPS або годинах GPU.RAG (генерація з доповненим пошуком)Метод, який отримує зовнішні знання та передає їх у генерацію під час висновку.Податок на вирівнюванняДодаткові витрати на час, обчислення або швидкість продукту, необхідні для того, щоб зробити системи безпечнішими та керованими.

Дізнайтеся більше в наших безкоштовних посібниках

AI Inference Computer Vision Sentiment Analysis Real-Time Voice Agents

Дивіться також

Inference Instruction Tuning In-Context Learning Intent Classification Hyperparameter Jailbreak Human-in-the-Loop Knowledge Cutoff