Μάθηση Νέα Εργαλεία Θέσεις εργασίας Αποστολή

Όρος Γλωσσάρι AI

Τι είναι Ποινή παρουσίας;

Ορισμός

Μια ρύθμιση αποκωδικοποίησης που μειώνει την πιθανότητα εμφάνισης διακριτικών, ενθαρρύνοντας νέα θέματα.

Περιηγηθείτε στο πλήρες Γλωσσάρι AI Εξερευνήστε όλους τους δωρεάν οδηγούς AI

Ποινή συχνότηταςΜια ρύθμιση αποκωδικοποίησης που μειώνει την πιθανότητα των διακριτικών αναλογικά με τη συχνότητα εμφάνισης τους μέχρι τώρα.Πέναλτι επανάληψηςΜια ρύθμιση αποκωδικοποίησης που μειώνει την πιθανότητα των διακριτικών που έχει ήδη δημιουργήσει το μοντέλο για τη μείωση των βρόχων.Top-k ΔειγματοληψίαΜια στρατηγική αποκωδικοποίησης που λαμβάνει δείγματα μόνο από τα k πιο πιθανά επόμενα διακριτικά.Φυλακισμένη αποκωδικοποίησηΜια στρατηγική παραγωγής που περιορίζει τα διακριτικά εξόδου σε έγκυρες δομές ή επιλογές συμβατές με την πολιτική.κερδοσκοπική αποκωδικοποίησηΜια μέθοδος επιτάχυνσης συμπερασμάτων όπου ένα μικρό πρόχειρο μοντέλο προτείνει διακριτικά που ένα μεγαλύτερο μοντέλο επαληθεύει παράλληλα.KV Cache (Προσωρινή μνήμη KV)Αποθηκευμένοι τανυστές κλειδιών και τιμών από προηγούμενα διακριτικά που επιτρέπουν στους μετασχηματιστές να δημιουργούν νέα διακριτικά χωρίς να υπολογίζουν εκ νέου την προσοχή του παρελθόντος.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Repetition Penalty and Decoding Controls

Δείτε επίσης

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking