Termen de glosar AI

Ce este Calcularea timpului de testare?

Definiție

Calcul de inferență suplimentar utilizat în timpul generării răspunsului pentru a îmbunătăți calitatea sau raționamentul.

Termeni înrudiți

Calcularea timpului de inferență
Cantitatea de putere de procesare consumată în timpul producerii fiecărui răspuns.
RAG (Recuperare-Augmented Generation)
O metodă care preia cunoștințe externe și le alimentează în generare la momentul deducerii.
Facturare bazată pe utilizare
Prețuri la care costurile cresc cu apeluri API, token-uri, timp de inferență sau calcul consumat.
Pierderea antrenamentului
Valoarea erorii modelului calculată în timpul antrenamentului și optimizată în scădere în timp.
Model de bază
Un model de referință simplu folosit pentru a compara dacă abordările mai complexe îmbunătățesc efectiv rezultatele.
Benchmark
Un test standardizat sau un set de date utilizat pentru a măsura și compara performanța modelului.

Aflați mai multe în ghidurile noastre gratuite

Computer VisionSentiment AnalysisReal-Time Voice AgentsTest-Time Augmentation

Vezi și

Structured OutputTrust CalibrationShadow DeploymentSafety CaseZero Data RetentionRetrieval PrecisionSpeculative DecodingPrompt Template
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite