Yapay Zeka Sözlüğü Terimi

Mevcudiyet Cezası nedir?

Tanım

Belirteçlerin ortaya çıkma olasılığını azaltan ve yeni konuları teşvik eden bir kod çözme ayarı.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Frekans CezasıBelirteçlerin olasılığını, o ana kadar ne sıklıkta göründüklerine orantılı olarak azaltan bir kod çözme ayarı.Tekrarlama CezasıDöngüleri azaltmak için modelin halihazırda ürettiği belirteçlerin olasılığını azaltan bir kod çözme ayarı.Top-k ÖrneklemeYalnızca büyük olasılıkla sonraki k jetondan örnek alan bir kod çözme stratejisi.Korumalı Kod ÇözmeÇıktı belirteçlerini geçerli yapılara veya politikaya uygun seçimlere sınırlayan bir üretim stratejisi.Spekülatif Kod ÇözmeKüçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.KV ÖnbelleğiTransformatörlerin geçmiş dikkati yeniden hesaplamadan yeni jetonlar oluşturmasına olanak tanıyan, önceki jetonlardan depolanan anahtar ve değer tensörleri.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Repetition Penalty and Decoding Controls

Ayrıca bakınız

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking