Yapay Zeka Sözlüğü Terimi

KV Önbelleği nedir?

Tanım

Transformatörlerin geçmiş dikkati yeniden hesaplamadan yeni jetonlar oluşturmasına olanak tanıyan, önceki jetonlardan depolanan anahtar ve değer tensörleri.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Sürekli ÖğrenmeBir modelin önceki bilgileri unutmadan yeni verilerden öğrenmeye devam etmesine olanak tanıyan eğitim yaklaşımları.Top-k ÖrneklemeYalnızca büyük olasılıkla sonraki k jetondan örnek alan bir kod çözme stratejisi.Denetimsiz ÖğrenmeAçık hedef çıktıları olmayan etiketlenmemiş verilerden öğrenme kalıpları.Sürgülü Pencere Dikkatİşlemi azaltmak için her belirtecin yalnızca yakındaki belirteçlerin sabit boyutlu bir penceresine katıldığı bir dikkat modeli.CümleParçasıAlt kelime birimlerini, boşlukları önceden bölmeden doğrudan ham metinden öğrenen, dilden bağımsız bir simgeleştirici.Mevcudiyet CezasıBelirteçlerin ortaya çıkma olasılığını azaltan ve yeni konuları teşvik eden bir kod çözme ayarı.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

KV CacheKV Cache OptimizationCache-Augmented Generation (CAG)

Ayrıca bakınız

Speculative DecodingMCP (Model Context Protocol)Zero Data RetentionAgentic LoopUsage-Based BillingReActTrust CalibrationTree of Thoughts