AI Ordliste Term

Hva er Destillert modell?

Definisjon

En mindre modell trent til å imitere en større modells oppførsel mens du bruker mindre beregning ved inferens.

Relaterte vilkår

Inferens-tidsberegning
Mengden prosessorkraft som forbrukes mens du produserer hver respons.
Kunnskapsdestillasjon
Trene en mindre modell for å imitere utgangene til en større modell.
Inferens
Kjøretidsfasen der en trent modell genererer spådommer eller utdata.
Beskjæring
Fjerning av mindre viktige modellvekter eller nevroner for å redusere størrelse og beregne.
Test-Time Compute
Ytterligere slutningsberegning brukt under generering av respons for å forbedre kvalitet eller resonnement.
Bruksbasert fakturering
Prissetting der kostnadene skaleres med API-kall, tokens, slutningstid eller forbrukt databehandling.

Lær mer i våre gratis guider

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Se også

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
Bla gjennom hele AI-ordlistenUtforsk alle gratis AI-guider