co je Frekvenční trest?

Nastavení dekódování, které snižuje pravděpodobnost, že se tokeny vůbec objevily, a podněcují nová témata.

Nastavení dekódování, které snižuje pravděpodobnost tokenů, které již model vytvořil, aby se omezily smyčky.

Metrika jazykového modelu měřící, jak překvapený je model skutečnými dalšími tokeny.

Strategie dekódování, která vzorkuje pouze z k nejpravděpodobnějších dalších tokenů.

Strategie generování, která omezuje výstupní tokeny na platné struktury nebo volby vyhovující zásadám.

Metoda zrychlení inference, kdy malý koncept modelu navrhuje tokeny, které větší model ověřuje paralelně.