Nedir Mevcudiyet Cezası?

Belirteçlerin olasılığını, o ana kadar ne sıklıkta göründüklerine orantılı olarak azaltan bir kod çözme ayarı.

Döngüleri azaltmak için modelin halihazırda ürettiği belirteçlerin olasılığını azaltan bir kod çözme ayarı.

Yalnızca büyük olasılıkla sonraki k jetondan örnek alan bir kod çözme stratejisi.

Çıktı belirteçlerini geçerli yapılara veya politikaya uygun seçimlere sınırlayan bir üretim stratejisi.

Küçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.

Transformatörlerin geçmiş dikkati yeniden hesaplamadan yeni jetonlar oluşturmasına olanak tanıyan, önceki jetonlardan depolanan anahtar ve değer tensörleri.