Yapay Zeka Sözlüğü Terimi

Bilgi Damıtma nedir?

Tanım

Daha büyük bir modelin çıktılarını taklit etmek için daha küçük bir modelin eğitilmesi.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

DamıtmaBüyük bir öğretmen modelindeki bilgiyi daha küçük bir öğrenci modeline sıkıştırmak.Damıtılmış ModelÇıkarımda daha az işlem kullanırken daha büyük bir modelin davranışını taklit etmek üzere eğitilmiş daha küçük bir model.Bilgi KesintisiBir modelin eğitim verilerine yansıyan zamandaki en son nokta.Sürekli ÖğrenmeBir modelin önceki bilgileri unutmadan yeni verilerden öğrenmeye devam etmesine olanak tanıyan eğitim yaklaşımları.Denetimli ÖğrenmeGirdileri bilinen çıktılarla eşleyen etiketli örneklerle bir modelin eğitilmesi.Anayasal Yapay ZekaModel çıktılarının sabit bir dizi yazılı prensip tarafından yönlendirildiği bir eğitim ve davranış şekillendirme yaklaşımı.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

AI Knowledge ManagementDINO Self-DistillationGraphRAG Knowledge GraphsDreamFusion and Score Distillation Sampling

Ayrıca bakınız

Knowledge GraphJailbreakLabel SmoothingIntent ClassificationLatencyInstruction TuningLarge Language Model (LLM)Inference-Time Compute