Термин от речника на AI

Какво е Изчисляване на тестово време?

Определение

Допълнителни изчисления за изводи, използвани по време на генериране на отговор за подобряване на качеството или разсъжденията.

Свързани термини

Извод-изчисляване на времето
Количеството процесорна мощност, изразходвана при генериране на всеки отговор.
RAG (генериране с допълнено извличане)
Метод, който извлича външно знание и го захранва за генериране по време на извод.
Таксуване въз основа на употребата
Ценообразуване, при което разходите се мащабират с извиквания на API, токени, време за извод или изразходвани изчисления.
Загуба на обучение
Стойността на грешката на модела, изчислена по време на обучение и оптимизирана надолу с времето.
Базов модел
Прост референтен модел, използван за сравнение дали по-сложните подходи наистина подобряват резултатите.
Бенчмарк
Стандартизиран тест или набор от данни, използвани за измерване и сравняване на ефективността на модела.

Научете повече в нашите безплатни ръководства

Computer VisionSentiment AnalysisReal-Time Voice AgentsTest-Time Augmentation

See also

Structured OutputTrust CalibrationShadow DeploymentSafety CaseZero Data RetentionRetrieval PrecisionSpeculative DecodingPrompt Template
Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI