AI Ordlista Term

Vad är Destillerad modell?

Definition

En mindre modell tränad att imitera en större modells beteende samtidigt som man använder mindre beräkning vid slutledning.

Relaterade termer

Inferens-Time Compute
Mängden processorkraft som förbrukas när varje svar produceras.
Kunskapsdestillation
Träna en mindre modell för att imitera resultatet av en större modell.
Slutledning
Körtidsfasen där en tränad modell genererar förutsägelser eller utdata.
Beskärning
Ta bort mindre viktiga modellvikter eller neuroner för att minska storleken och beräkna.
Test-Time Compute
Ytterligare slutledningsberäkning som används under svarsgenerering för att förbättra kvalitet eller resonemang.
Användningsbaserad fakturering
Prissättning där kostnaderna skalas med API-anrop, tokens, slutledningstid eller förbrukad beräkning.

Läs mer i våra kostnadsfria guider

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

See also

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider