ΕπόμενοΕπόμενος οδηγός
Representation and Sampling Bias in Datasets
Τεχνικά
Τεχνικός ΟΔΗΓΟΣ
Προγραμματισμένη δειγματοληψία και μεροληψία έκθεσης
Η μεροληψία έκθεσης είναι το κενό που εμφανίζεται όταν ένα μοντέλο που εκπαιδεύεται μόνο σε τέλεια προθέματα πρέπει, κατά συμπέρασμα, να εξαρτηθεί από τα δικά του ατελή αποτελέσματα.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
Σε αυτήν τη σελίδα2 λεπτά ανάγνωση
Επισκόπηση
Scheduled sampling is a curriculum that gradually closes that gap.
Βαθιά κατάδυση
Τα μοντέλα που έχουν εκπαιδευτεί με εξαναγκασμό δασκάλων βλέπουν πάντα τα διακριτικά βασικής αλήθειας ως πλαίσιο, αλλά κατά τη διάρκεια της γενιάς ανατροφοδοτούν τις δικές τους προβλέψεις. Όταν ένα πρώιμο λάθος προσγειώνει το μοντέλο σε μια κατάσταση που δεν συναντήθηκε ποτέ κατά τη διάρκεια της προπόνησης, τα σφάλματα μπορεί να προκαλέσουν χιονοστιβάδα, μια λειτουργία αποτυχίας που ονομάζεται προκατάληψη έκθεσης. Η προγραμματισμένη δειγματοληψία, που εισήχθη από τον Bengio και τους συναδέλφους του το 2015, το αντιμετωπίζει γυρίζοντας ένα νόμισμα σε κάθε βήμα αποκωδικοποίησης κατά τη διάρκεια της εκπαίδευσης: με κάποια πιθανότητα τροφοδοτεί το αληθινό διακριτικό (εκτέλεση δασκάλου) και διαφορετικά τροφοδοτεί την πρόβλεψη δειγματοληψίας του ίδιου του μοντέλου. Η πιθανότητα χρήσης της βασικής αλήθειας ξεκινά κοντά στο ένα και μειώνεται κατά τη διάρκεια της εκπαίδευσης μέσω ενός χρονοδιαγράμματος (γραμμικό, εκθετικό ή αντίστροφο σιγμοειδές), έτσι το μοντέλο προοδευτικά εκτίθεται στα δικά του αποτελέσματα και μαθαίνει να ανακάμπτει από τα λάθη του.
Υλοποίηση σε πραγματικό κόσμο
Εκπαίδευση ενός μοντέλου υπότιτλων εικόνων με προγραμματισμένη δειγματοληψία, ώστε να μάθει να συνεχίζει με χάρη μετά από μια ατελή προβλεπόμενη λέξη
Εξασθένηση της πιθανότητας επιβολής του δασκάλου με ένα αντίστροφο σιγμοειδές πρόγραμμα σε ένα νευρωνικό σύστημα μηχανικής μετάφρασης
Διάγνωση ενός chatbot που παρασύρεται σε ασυνάρτητους βρόχους ως σύμπτωμα μεροληψίας έκθεσης από καθαρό εξαναγκασμό δασκάλου
Σύγκριση βαθμολογιών BLEU ενός συνοψιστή εκπαιδευμένου με πλήρη επιβολή δασκάλου έναντι ενός εκπαιδευμένου με προγραμματισμένη δειγματοληψία
Το μέλλον της προγραμματισμένης δειγματοληψίας και της μεροληψίας έκθεσης
Για μεγάλα μοντέλα γλώσσας Transformer, ο πρακτικός αντίκτυπος της μεροληψίας έκθεσης συζητείται, καθώς τα τεράστια δεδομένα και η κλίμακα το μειώνουν και μέθοδοι όπως το RLHF αναδιαμορφώνουν άμεσα τη συμπεριφορά παραγωγής. Ωστόσο, η προγραμματισμένη δειγματοληψία και οι απόγονοί της παραμένουν σχετικές για μικρότερα μοντέλα, δομημένη παραγωγή και εργασίες με αυστηρές ανάγκες ακρίβειας. Η μελλοντική εργασία συνδυάζει την έκθεση του προγράμματος σπουδών, τους στόχους ακολουθίας τύπου ενίσχυσης και την εκπαίδευση ελάχιστων κινδύνων για να ευθυγραμμίσει τον τρόπο εκπαίδευσης των μοντέλων με τον τρόπο με τον οποίο πραγματικά αποκωδικοποιούνται.
Κάνοντάς το στην πράξη
Γιατί έχει σημασία
- Κόστος και προϋπολογισμός. Οι αποφάσεις για την αρχιτεκτονική καθορίζουν την απόδοση και το λειτουργικό κόστος για χρόνια.
- Σαφέστερες αποφάσεις. Η τεχνική εκπαίδευση βοηθά τις ομάδες να επιλέξουν τη σωστή στοίβα, όχι μόνο τη νεότερη.
- Ελεγχος ποιότητας. Οι καλύτερες επιλογές μηχανικής μειώνουν τα περιστατικά αξιοπιστίας στην παραγωγή.
Προσέξτε
- Η βελτιστοποίηση ενός σημείου αναφοράς μπορεί να κρύψει ευρύτερες αδυναμίες του συστήματος.
- Το κόστος υποδομής και συντήρησης συχνά υποτιμάται.
- Τα κενά ασφάλειας και παρατηρητικότητας μπορούν να αυξηθούν καθώς τα συστήματα γίνονται πιο πολύπλοκα.
Επόμενα βήματα
- Καθορίστε τους στόχους καθυστέρησης, ποιότητας και κόστους πριν από την εφαρμογή.
- Σημείο αναφοράς υπό ρεαλιστικές συνθήκες φορτίου και δεδομένων.
- Παρακολούθηση οργάνου για σφάλματα, μετατόπιση και επιπτώσεις από τον χρήστη.
- Προετοιμάστε διαδρομές επαναφοράς και απόκρισης συμβάντος πριν την κλιμάκωση.
Συνεχίστε την εξερεύνηση
Δωρεάν ενημερωτικό δελτίο
Λάβετε την καθημερινή ενημέρωση AI
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Take the Scheduled Sampling and Exposure Bias quiz
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Συχνές ερωτήσεις
What is Scheduled Sampling and Exposure Bias?
Η μεροληψία έκθεσης είναι το κενό που εμφανίζεται όταν ένα μοντέλο που εκπαιδεύεται μόνο σε τέλεια προθέματα πρέπει, κατά συμπέρασμα, να εξαρτηθεί από τα δικά του ατελή αποτελέσματα. Η προγραμματισμένη δειγματοληψία είναι ένα πρόγραμμα σπουδών που κλείνει σταδιακά αυτό το κενό.
Τι κάνει η προγραμματισμένη δειγματοληψία κατά τη διάρκεια της εκπαίδευσης;
Η προγραμματισμένη δειγματοληψία αναμειγνύει στοχαστικά κουπόνια εδάφους και δημιουργούμενα από το μοντέλο ως εισόδους αποκωδικοποιητή, που ελέγχονται από μια πιθανότητα αποσύνθεσης.
Πώς αλλάζει η πιθανότητα χρήσης του διακριτικού εδάφους αλήθειας σε σχέση με την προπόνηση στην προγραμματισμένη δειγματοληψία;
Το χρονοδιάγραμμα ξεκινά σχεδόν με πλήρη επιβολή δασκάλων και φθείρεται, έτσι το μοντέλο εκτίθεται όλο και περισσότερο στις δικές του προβλέψεις καθώς βελτιώνεται.
Ποιος εισήγαγε την προγραμματισμένη δειγματοληψία και πότε περίπου;
Η προγραμματισμένη δειγματοληψία προτάθηκε από τον Samy Bengio και τους συνεργάτες του το 2015 για πρόβλεψη ακολουθίας με επαναλαμβανόμενα δίκτυα.
Ποιο σχήμα χρονοδιαγράμματος αναφέρεται συνήθως για τη μείωση της πιθανότητας επιβολής του δασκάλου;
Η αρχική εργασία πρότεινε γραμμικά, εκθετικά και αντίστροφα-σιγμοειδή χρονοδιαγράμματα διάσπασης για τη μείωση της πιθανότητας δειγματοληψίας εδαφικής αλήθειας.
At a decoding step where scheduled sampling chooses the model-output branch, what is fed as the next context token?
Scheduled sampling sometimes feeds the model’s own sampled prediction instead of the gold previous token.
Συνέχισε να μαθαίνεις
Σχετικοί οδηγοί
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα