What is Distillation? Definition | AI Understanding

Definiție

Comprimarea cunoștințelor de la un model de profesor mare într-un model de elev mai mic.

Termeni înrudiți

Distilarea cunoștințelor

Antrenarea unui model mai mic pentru a imita rezultatele unui model mai mare.

Învățare continuă

Abordări de formare care permit unui model să continue să învețe din date noi, fără a uita cunoștințele anterioare.

RAG (Recuperare-Augmented Generation)

O metodă care preia cunoștințe externe și le alimentează în generare la momentul deducerii.

Găsirea documentelor sau înregistrărilor relevante dintr-o sursă de cunoștințe pentru o interogare.

O înregistrare a de unde provin datele, cum au fost transformate și unde sunt utilizate.

Confidențialitate diferențială

O tehnică de confidențialitate care adaugă zgomot statistic, astfel încât înregistrările individuale să nu poată fi deduse în mod fiabil din rezultate.

Aflați mai multe în ghidurile noastre gratuite

DINO Self-Distillation DreamFusion and Score Distillation Sampling Knowledge Distillation

Vezi și

Diffusion Model Domain Adaptation Deep Learning Embedding Decision Tree Encoder Decision Boundary Ensemble

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite