KI-Glossarbegriff

Was ist Destillation?

Definition

Komprimieren von Wissen aus einem großen Lehrermodell in ein kleineres Schülermodell.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

WissensdestillationTrainieren Sie ein kleineres Modell, um die Ausgaben eines größeren Modells zu imitieren.Kontinuierliches LernenTrainingsansätze, die es einem Modell ermöglichen, kontinuierlich aus neuen Daten zu lernen, ohne Vorkenntnisse zu vergessen.RAG (Retrieval‑Augmented Generation)Eine Methode, die externes Wissen abruft und es zum Zeitpunkt der Inferenz in die Generierung einspeist.AbrufSuchen relevanter Dokumente oder Datensätze aus einer Wissensquelle für eine Abfrage.DatenherkunftEine Aufzeichnung darüber, woher die Daten stammen, wie sie umgewandelt wurden und wo sie verwendet werden.Differenzielle PrivatsphäreEine Datenschutztechnik, die statistisches Rauschen hinzufügt, sodass einzelne Datensätze nicht zuverlässig aus den Ausgaben abgeleitet werden können.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

DINO Self-DistillationDreamFusion and Score Distillation SamplingKnowledge DistillationAdversarial Diffusion Distillation and Turbo Models

Siehe auch

Diffusion ModelDomain AdaptationDeep LearningEmbeddingDecision TreeEncoderDecision BoundaryEnsemble