co je Hlídané dekódování?

Strategie dekódování, která vzorkuje pouze z k nejpravděpodobnějších dalších tokenů.

Strategie dekódování, která vzorkuje z nejmenší sady tokenů, jejíž pravděpodobnosti jsou součtem p.

Logika, která ověřuje a převádí výstup modelu do silně typovaných, strojově použitelných struktur.

Metoda zrychlení inference, kdy malý koncept modelu navrhuje tokeny, které větší model ověřuje paralelně.

Nastavení dekódování, které snižuje pravděpodobnost tokenů, které již model vytvořil, aby se omezily smyčky.

Nastavení dekódování, které snižuje pravděpodobnost tokenů úměrně tomu, jak často se dosud objevovaly.