Τι είναι Ποινή συχνότητας?

Μια ρύθμιση αποκωδικοποίησης που μειώνει την πιθανότητα εμφάνισης διακριτικών, ενθαρρύνοντας νέα θέματα.

Μια ρύθμιση αποκωδικοποίησης που μειώνει την πιθανότητα των διακριτικών που έχει ήδη δημιουργήσει το μοντέλο για τη μείωση των βρόχων.

Μια μέτρηση μοντέλου γλώσσας που μετρά πόσο εκπλήσσεται το μοντέλο από τα αληθινά επόμενα διακριτικά.

Μια στρατηγική αποκωδικοποίησης που λαμβάνει δείγματα μόνο από τα k πιο πιθανά επόμενα διακριτικά.

Μια στρατηγική παραγωγής που περιορίζει τα διακριτικά εξόδου σε έγκυρες δομές ή επιλογές συμβατές με την πολιτική.

Μια μέθοδος επιτάχυνσης συμπερασμάτων όπου ένα μικρό πρόχειρο μοντέλο προτείνει διακριτικά που ένα μεγαλύτερο μοντέλο επαληθεύει παράλληλα.