What is Distillation? Definition | AI Understanding

Definizione

Compressione della conoscenza da un modello di insegnante di grandi dimensioni in un modello di studente più piccolo.

Termini correlati

Distillazione della conoscenza

Addestrare un modello più piccolo per imitare i risultati di un modello più grande.

Apprendimento continuo

Approcci di formazione che consentono a un modello di continuare ad apprendere dai nuovi dati senza dimenticare le conoscenze precedenti.

RAG (generazione aumentata di recupero)

Un metodo che recupera la conoscenza esterna e la alimenta nella generazione al momento dell'inferenza.

Ricerca di documenti o record rilevanti da una fonte di conoscenza per una query.

Derivazione dei dati

Un record della provenienza dei dati, di come sono stati trasformati e di dove vengono utilizzati.

Privacy differenziale

Una tecnica di privacy che aggiunge rumore statistico in modo che i singoli record non possano essere dedotti in modo affidabile dagli output.

Scopri di più nelle nostre guide gratuite

DINO Self-Distillation DreamFusion and Score Distillation Sampling Knowledge Distillation

Vedi anche

Diffusion Model Domain Adaptation Deep Learning Embedding Decision Tree Encoder Decision Boundary Ensemble

Sfoglia il glossario completo dell'intelligenza artificiale Esplora tutte le guide gratuite sull'intelligenza artificiale