Mi az Frekvencia büntetés?

Egy dekódolási beállítás, amely csökkenti annak valószínűségét, hogy egyáltalán megjelentek a tokenek, új témákra ösztönözve.

Egy dekódolási beállítás, amely csökkenti a modell által már előállított tokenek valószínűségét a hurkok csökkentése érdekében.

Egy nyelvi modell mérőszáma, amely azt méri, mennyire lepte meg a modellt a true next tokenek.

Dekódolási stratégia, amely csak a k legvalószínűbb következő tokenből vesz mintát.

Generációs stratégia, amely a kimeneti tokeneket érvényes struktúrákra vagy házirend-kompatibilis választásokra korlátozza.

Következtetési gyorsítási módszer, ahol egy kis vázlatmodell tokeneket javasol, amelyeket egy nagyobb modell párhuzamosan ellenőriz.