Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ άμεσης συντονισμού

Ελέγξτε τα μαλακά μηνύματα στο επίπεδο εισόδου, τη ρύθμιση του παγωμένου μοντέλου και τα αποτελέσματα που εξαρτώνται από την κλίμακα που αναφέρθηκαν για γρήγορο συντονισμό.

Σχετικές διαδρομές οδηγώνΆμεσος συντονισμός
Ερώτηση 1 του 8

Τι είναι το "soft prompt" στον γρήγορο συντονισμό;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Τι είναι το "soft prompt" στον γρήγορο συντονισμό;
    • Έμαθε διανύσματα συνεχούς ενσωμάτωσης που δεν χρειάζεται να αντιστοιχιστούν σε πραγματικές λέξεις
    • Μια ευγενικά διατυπωμένη οδηγία κειμένου
    • Ένα μικρότερο αποσταγμένο αντίγραφο του μοντέλου
    • Ένα σύνολο παγωμένων logit εξόδου
  2. Πού ο γρήγορος συντονισμός προσθέτει τα εκπαιδεύσιμα διανύσματά του;
    • Σε κάθε στρώμα μετασχηματιστή
    • Μόνο στο επίπεδο ενσωμάτωσης εισόδου
    • Μόνο στο επίπεδο εξόδου
    • Μέσα στην κατάσταση βελτιστοποίησης
  3. Ποιο εκπληκτικό αποτέλεσμα τόνισε το αρχικό έγγραφο σχετικά με την κλίμακα μοντέλου;
    • Ο γρήγορος συντονισμός χειροτερεύει όσο μεγαλώνουν τα μοντέλα
    • Η κλίμακα δεν επηρεάζει τον γρήγορο συντονισμό
    • Καθώς τα μοντέλα μεγαλώνουν, ο γρήγορος συντονισμός προσεγγίζει την πλήρη ποιότητα λεπτομέρειας
    • Τα μεγαλύτερα μοντέλα δεν μπορούν πλέον να συντονιστούν με προτροπή
  4. Ποιος εισήγαγε τον γρήγορο συντονισμό;
    • DeepMind το 2016
    • Anthropic το 2023
    • Microsoft το 2019
    • Ερευνητές στο Google (Lester, Al-Rfou, Constant) το 2021
  5. Πώς ο γρήγορος συντονισμός επιτρέπει την εξυπηρέτηση πολλών εργασιών από ένα μοντέλο;
    • Κάθε εργασία χρησιμοποιεί τη δική της μικροσκοπική προτροπή ενώ το μοντέλο παραμένει παγωμένο
    • Επανεκπαιδεύει ολόκληρο το μοντέλο για κάθε αίτημα
    • Διαγράφει τις αχρησιμοποίητες εργασίες από τα βάρη
    • Απαιτεί ξεχωριστή GPU ανά εργασία
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • WaveNet
    • AlphaFold2
    • Τ5
    • Δάσος απομόνωσης
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors