Nedir Frekans Cezası?

Belirteçlerin ortaya çıkma olasılığını azaltan ve yeni konuları teşvik eden bir kod çözme ayarı.

Döngüleri azaltmak için modelin halihazırda ürettiği belirteçlerin olasılığını azaltan bir kod çözme ayarı.

Modelin gerçek sonraki belirteçlere göre ne kadar şaşırdığını ölçen bir dil modeli metriği.

Yalnızca büyük olasılıkla sonraki k jetondan örnek alan bir kod çözme stratejisi.

Çıktı belirteçlerini geçerli yapılara veya politikaya uygun seçimlere sınırlayan bir üretim stratejisi.

Küçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.