Cos'è Penalità di ripetizione?

Un'impostazione di decodifica che riduce la probabilità dei token proporzionalmente alla frequenza con cui sono apparsi finora.

Un'impostazione di decodifica che riduce la probabilità che i token siano apparsi, incoraggiando nuovi argomenti.

Una strategia di decodifica che campiona solo dai k token successivi più probabili.

Una strategia di generazione che vincola i token di output a strutture valide o scelte conformi alle politiche.

Un metodo di accelerazione dell'inferenza in cui una piccola bozza di modello propone token che un modello più grande verifica in parallelo.

Un modello di attenzione in cui ogni token si occupa solo di una finestra di dimensione fissa di token vicini per ridurre il calcolo.