Termen de glosar AI

Ce este Punct final de inferență?

Definiție

O interfață API implementată care primește cereri de model și returnează predicții în producție.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

API (Interfață de programare a aplicației)O modalitate structurată pentru ca un sistem software să trimită cereri și să primească răspunsuri de la un alt sistem.InferențăFaza de rulare în care un model antrenat generează predicții sau rezultate.Facturare bazată pe utilizarePrețuri la care costurile cresc cu apeluri API, token-uri, timp de inferență sau calcul consumat.Calcularea timpului de inferențăCantitatea de putere de procesare consumată în timpul producerii fiecărui răspuns.Arborele de decizieUn model care face predicții printr-o secvență de împărțiri de caracteristici dacă-atunci.AnsamblulCombinarea predicțiilor din mai multe modele pentru a îmbunătăți robustețea sau acuratețea.

Aflați mai multe în ghidurile noastre gratuite

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

Vezi și

Human Preference ModelKnowledge BaseGuarded DecodingLatent SpaceGroundednessModel RegistryFeature StoreOn-Device AI