Termen de glosar AI

Ce este Calcularea timpului de testare?

Definiție

Calcul de inferență suplimentar utilizat în timpul generării răspunsului pentru a îmbunătăți calitatea sau raționamentul.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Calcularea timpului de inferențăCantitatea de putere de procesare consumată în timpul producerii fiecărui răspuns.RAG (Recuperare-Augmented Generation)O metodă care preia cunoștințe externe și le alimentează în generare la momentul deducerii.Facturare bazată pe utilizarePrețuri la care costurile cresc cu apeluri API, token-uri, timp de inferență sau calcul consumat.Pierderea antrenamentuluiValoarea erorii modelului calculată în timpul antrenamentului și optimizată în scădere în timp.Model de bazăUn model de referință simplu folosit pentru a compara dacă abordările mai complexe îmbunătățesc efectiv rezultatele.BenchmarkUn test standardizat sau un set de date utilizat pentru a măsura și compara performanța modelului.

Aflați mai multe în ghidurile noastre gratuite

Computer VisionSentiment AnalysisReal-Time Voice AgentsTest-Time Augmentation

Vezi și

Structured OutputTrust CalibrationShadow DeploymentSafety CaseZero Data RetentionRetrieval PrecisionSpeculative DecodingPrompt Template