Termen de glosar AI

Ce este Distilarea cunoștințelor?

Definiție

Antrenarea unui model mai mic pentru a imita rezultatele unui model mai mare.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

DistilareaComprimarea cunoștințelor de la un model de profesor mare într-un model de elev mai mic.Model distilatUn model mai mic antrenat să imite comportamentul unui model mai mare, folosind mai puține calcule la inferență.Cutofă de cunoștințeCel mai recent moment din timp reflectat în datele de antrenament ale unui model.Învățare continuăAbordări de formare care permit unui model să continue să învețe din date noi, fără a uita cunoștințele anterioare.Învățare supravegheatăAntrenarea unui model cu exemple etichetate care mapează intrările la ieșiri cunoscute.AI constituționalO abordare de formare și formare a comportamentului în care rezultatele modelului sunt ghidate de un set fix de principii scrise.

Aflați mai multe în ghidurile noastre gratuite

AI Knowledge ManagementDINO Self-DistillationGraphRAG Knowledge GraphsDreamFusion and Score Distillation Sampling

Vezi și

Knowledge GraphJailbreakLabel SmoothingIntent ClassificationLatencyInstruction TuningLarge Language Model (LLM)Inference-Time Compute