Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ για Δασκάλους Αναγκάζοντας σε Μοντέλα Ακολουθίας

Ελέγχει πώς τα προθέματα βασικής αλήθειας εκπαιδεύουν έναν αποκωδικοποιητή ακολουθίας, πώς οι αιτιακές μάσκες υποστηρίζουν την παράλληλη εκπαίδευση και γιατί διαφέρει το συμπέρασμα.

Σχετικές διαδρομές οδηγώνΔάσκαλος Επιβολή σε Μοντέλα Ακολουθίας
Ερώτηση 1 του 8

Κατά τη διάρκεια της επιβολής του δασκάλου, τι τροφοδοτείται ως είσοδος σε κάθε βήμα αποκωδικοποίησης;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Κατά τη διάρκεια της επιβολής του δασκάλου, τι τροφοδοτείται ως είσοδος σε κάθε βήμα αποκωδικοποίησης;
    • Το προηγούμενο διακριτικό της βασικής αλήθειας
    • Η προηγούμενη πρόβλεψη του ίδιου του μοντέλου
    • Ένα τυχαίο διακριτικό
    • Το τελικό διακριτικό εξόδου
  2. During teacher-forced training, what target is paired with decoder input y_(t−1)?
    • The previous ground-truth token
    • The next target token y_t
    • A token sampled from the validation set
    • The maximum-probability output from an earlier training run
  3. Η αναντιστοιχία δοκιμής αμαξοστοιχίας που προκαλείται από εξαναγκασμό δασκάλων είναι γνωστή ως:
    • Εξαφανιζόμενες κλίσεις
    • Σύμπτυξη λειτουργίας
    • Προκατάληψη έκθεσης
    • Διαρροή ετικέτας
  4. Σε έναν αποκωδικοποιητή Transformer, ποιος μηχανισμός επιτρέπει την εξαναγκασμένη εκπαίδευση από τους δασκάλους να εκτελείται παράλληλα μεταξύ των θέσεων;
    • Εγκατάλειψη
    • Ομαλοποίηση παρτίδας
    • Αναζήτηση δέσμης
    • Μια αιτιολογική (κοιτάζοντας μπροστά) μάσκα προσοχής
  5. Τη στιγμή της εξαγωγής συμπερασμάτων, γιατί δεν μπορεί να χρησιμοποιηθεί η επιβολή του δασκάλου;
    • Δεν υπάρχουν μελλοντικές μάρκες επίγειας αλήθειας για τροφοδοσία
    • Η λειτουργία απώλειας δεν είναι διαθέσιμη
    • Η GPU είναι πολύ αργή
    • Οι μάσκες προσοχής είναι απενεργοποιημένες
  6. Ποια απώλεια χρησιμοποιείται συνήθως σε κάθε βήμα κατά τη διάρκεια της υποχρεωτικής εκπαίδευσης από εκπαιδευτικούς;
    • Μέσο τετράγωνο σφάλμα σε ακατέργαστα logit
    • Διασταυρούμενη εντροπία μεταξύ της προβλεπόμενης κατανομής και του αληθινού επόμενου διακριτικού
    • Απώλεια άρθρωσης στις ενσωματώσεις
    • Απώλεια ομοιότητας συνημιτονίου
  7. The target sequence is “red, blue, green.” Under teacher forcing, which token is supplied when training the prediction of “green”?
    • The model’s prediction for “green”
    • The future token after “green”
    • The ground-truth previous token “blue”
    • A randomly sampled vocabulary item
  8. At decoder position t, which tokens must a causal attention mask block?
    • The source sequence
    • All earlier target tokens
    • The current position’s own input
    • Target tokens at positions later than t