What is Test-Time Compute? Definition | AI Understanding

Визначення

Додаткове обчислення логічного висновку, яке використовується під час генерації відповіді для покращення якості чи аргументації.

Споріднені терміни

Висновок-обчислення часу

Кількість обчислювальної потужності, спожитої під час створення кожної відповіді.

RAG (генерація з доповненим пошуком)

Метод, який отримує зовнішні знання та передає їх у генерацію під час висновку.

Оплата на основі використання

Ціноутворення, де витрати масштабуються з викликами API, маркерами, часом висновку або споживаними обчисленнями.

Втрата навчання

Значення помилки моделі, обчислене під час навчання та оптимізоване у бік зменшення з часом.

Базова модель

Проста еталонна модель, яка використовується для порівняння того, чи справді більш складні підходи покращують результати.

Стандартизований тест або набір даних, який використовується для вимірювання та порівняння продуктивності моделі.

Дізнайтеся більше в наших безкоштовних посібниках

Computer Vision Sentiment Analysis Real-Time Voice Agents Test-Time Augmentation

See also

Structured Output Trust Calibration Shadow Deployment Safety Case Zero Data Retention Retrieval Precision Speculative Decoding Prompt Template

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту