Termen de glosar AI

Ce este Distilarea cunoștințelor?

Definiție

Antrenarea unui model mai mic pentru a imita rezultatele unui model mai mare.

Termeni înrudiți

Distilarea
Comprimarea cunoștințelor de la un model de profesor mare într-un model de elev mai mic.
Model distilat
Un model mai mic antrenat să imite comportamentul unui model mai mare, folosind mai puține calcule la inferență.
Cutofă de cunoștințe
Cel mai recent moment din timp reflectat în datele de antrenament ale unui model.
Învățare continuă
Abordări de formare care permit unui model să continue să învețe din date noi, fără a uita cunoștințele anterioare.
Învățare supravegheată
Antrenarea unui model cu exemple etichetate care mapează intrările la ieșiri cunoscute.
AI constituțional
O abordare de formare și formare a comportamentului în care rezultatele modelului sunt ghidate de un set fix de principii scrise.

Aflați mai multe în ghidurile noastre gratuite

AI Knowledge ManagementDINO Self-DistillationGraphRAG Knowledge GraphsDreamFusion and Score Distillation Sampling

Vezi și

Knowledge GraphJailbreakLabel SmoothingIntent ClassificationLatencyInstruction TuningLarge Language Model (LLM)Inference-Time Compute
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite