Termen de glosar AI

Ce este Model distilat?

Definiție

Un model mai mic antrenat să imite comportamentul unui model mai mare, folosind mai puține calcule la inferență.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Calcularea timpului de inferențăCantitatea de putere de procesare consumată în timpul producerii fiecărui răspuns.Distilarea cunoștințelorAntrenarea unui model mai mic pentru a imita rezultatele unui model mai mare.InferențăFaza de rulare în care un model antrenat generează predicții sau rezultate.TundereaEliminarea greutăților modelului sau a neuronilor mai puțin importanți pentru a reduce dimensiunea și a calcula.Calcularea timpului de testareCalcul de inferență suplimentar utilizat în timpul generării răspunsului pentru a îmbunătăți calitatea sau raționamentul.Facturare bazată pe utilizarePrețuri la care costurile cresc cu apeluri API, token-uri, timp de inferență sau calcul consumat.

Aflați mai multe în ghidurile noastre gratuite

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Vezi și

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness