Κουίζ που συνδέεται με οδηγό · Σκληρό Επίπεδο

Κουίζ XLNet Permutation Modeling

Ελέγχει την παραγοντοποίηση μετάθεσης, την προσοχή δύο ροών, την επανάληψη του Transformer-XL και τον τρόπο με τον οποίο οι αξιώσεις συγκριτικής αξιολόγησης εξαρτώνται από συγκρίσιμες ρυθμίσεις.

Σχετικές διαδρομές οδηγώνΜοντελοποίηση μετάθεσης Xlnet
Ερώτηση 1 του 8

Ποιο στόχο προεκπαίδευσης χρησιμοποιεί το XLNet;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Ποιο στόχο προεκπαίδευσης χρησιμοποιεί το XLNet;
    • Μοντελοποίηση γλώσσας μετάθεσης
    • Μοντελοποίηση μάσκας γλώσσας
    • Αντικαταστάθηκε η ανίχνευση διακριτικού
    • Πρόβλεψη επόμενης πρότασης
  2. Ποια αδυναμία του BERT σχεδιάστηκε ειδικά για την αντιμετώπιση του XLNet;
    • Ο ΜΠΕΡΤ ήταν πολύ μικρός
    • Το διακριτικό [MASK] προκαλεί αναντιστοιχία προεκπαίδευσης/λεπτής ρύθμισης και προϋποθέτει ανεξαρτησία με μάσκα
    • Ο BERT δεν μπορούσε να χειριστεί σύντομες προτάσεις
    • Το BERT δεν είχε κωδικοποιήσεις θέσης
  3. Τι διαχωρίζει η αυτοπροσοχή δύο ροών του XLNet;
    • Επίπεδα κωδικοποιητή και αποκωδικοποιητή
    • Γραφήματα εκπαίδευσης και συμπερασμάτων
    • Μια ροή περιεχομένου και μια ροή ερωτημάτων
    • Ενσωματώσεις διακριτικών και προτάσεων
  4. Το XLNet ανακατεύει φυσικά τις λέξεις σε μια πρόταση;
    • Ναι, αναδιατάσσει τυχαία τα πραγματικά διακριτικά
    • Ναι, αλλά μόνο κατά τη μικρορύθμιση
    • Όχι, δεν αλλάζει ποτέ καμία παραγγελία
    • Όχι, αλλάζει τη σειρά παραγοντοποίησης χρησιμοποιώντας μάσκες προσοχής ενώ διατηρεί θέσεις
  5. Ποια αρχιτεκτονική χρησιμεύει ως η ραχοκοκαλιά του XLNet για περιβάλλον μεγάλης εμβέλειας;
    • Transformer-XL
    • LSTM
    • Γνήσιο μετασχηματιστή βανίλιας
    • Συνελικτικό δίκτυο
  6. How does XLNet combine bidirectional context with autoregressive prediction?
    • It predicts all tokens independently with no attention mask
    • It predicts in sampled factorization orders without inserting a [MASK] input token, using attention masks
    • It physically shuffles the sentence before every prediction
    • It replaces autoregressive prediction with a denoising autoencoder
  7. For a token sequence A B C, suppose a sampled factorization order predicts C before A and B. What context is available when predicting C?
    • The tokens A and B must always be provided first
    • Only the next sentence is available
    • No earlier tokens in that sampled order, although C remains at its original input position
    • The input sequence is physically reordered to C A B
  8. How does XLNet prevent the target token from leaking into its own prediction query?
    • It removes the target from the entire training sequence
    • It uses the target’s label as an input embedding
    • It replaces the token with a [MASK] symbol
    • The query stream represents the target position without its token content