Τι είναι Top-k Δειγματοληψία?

Μια στρατηγική αποκωδικοποίησης που λαμβάνει δείγματα από το μικρότερο σύνολο διακριτικών του οποίου οι πιθανότητες αθροίζονται σε p.

Μια στρατηγική παραγωγής που περιορίζει τα διακριτικά εξόδου σε έγκυρες δομές ή επιλογές συμβατές με την πολιτική.

Εκμάθηση ή προσαρμογή συμπεριφοράς μόνο από ένα μικρό αριθμό παραδειγμάτων.

Μια μέτρηση μοντέλου γλώσσας που μετρά πόσο εκπλήσσεται το μοντέλο από τα αληθινά επόμενα διακριτικά.

Μια μέθοδος επιτάχυνσης συμπερασμάτων όπου ένα μικρό πρόχειρο μοντέλο προτείνει διακριτικά που ένα μεγαλύτερο μοντέλο επαληθεύει παράλληλα.

Αποθηκευμένοι τανυστές κλειδιών και τιμών από προηγούμενα διακριτικά που επιτρέπουν στους μετασχηματιστές να δημιουργούν νέα διακριτικά χωρίς να υπολογίζουν εκ νέου την προσοχή του παρελθόντος.