What is Distilled Model? Definition | AI Understanding

Definitie

Een kleiner model dat is getraind om het gedrag van een groter model te imiteren en tegelijkertijd minder rekenkracht te gebruiken bij gevolgtrekking.

Gerelateerde termen

Inferentietijdberekening

De hoeveelheid verwerkingskracht die wordt verbruikt bij het produceren van elk antwoord.

Kennisdistillatie

Een kleiner model trainen om de resultaten van een groter model te imiteren.

De runtimefase waarin een getraind model voorspellingen of uitvoer genereert.

Het verwijderen van minder belangrijke modelgewichten of neuronen om de omvang en rekenkracht te verkleinen.

Testtijd berekenen

Aanvullende gevolgtrekkingsberekening die wordt gebruikt tijdens het genereren van antwoorden om de kwaliteit of redenering te verbeteren.

Op gebruik gebaseerde facturering

Prijzen waarbij de kosten worden geschaald met API-aanroepen, tokens, inferentietijd of verbruikte rekenkracht.

Lees meer in onze gratis handleidingen

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Differential Privacy Embedding Model Data Provenance Eval Harness Data Lineage Feature Store Constitutional AI Groundedness

Blader door de volledige AI-woordenlijst Ontdek alle gratis AI-gidsen