Mi az Ismétlési büntetés?

Egy dekódolási beállítás, amely az eddigi megjelenésük gyakoriságával arányosan csökkenti a tokenek valószínűségét.

Egy dekódolási beállítás, amely csökkenti annak valószínűségét, hogy egyáltalán megjelentek a tokenek, új témákra ösztönözve.

Dekódolási stratégia, amely csak a k legvalószínűbb következő tokenből vesz mintát.

Generációs stratégia, amely a kimeneti tokeneket érvényes struktúrákra vagy házirend-kompatibilis választásokra korlátozza.

Következtetési gyorsítási módszer, ahol egy kis vázlatmodell tokeneket javasol, amelyeket egy nagyobb modell párhuzamosan ellenőriz.

Figyelembe vételi minta, amelyben minden token csak a közeli tokenek fix méretű ablakát veszi figyelembe, hogy csökkentse a számítást.