Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Επίπεδα προσαρμογέα για Κουίζ μεταφοράς

Ελέγξτε πώς οι προσαρμογείς bottleneck διατηρούν ένα παγωμένο βασικό μοντέλο, ενεργοποιούν τη μεταφορά αρθρωτής εργασίας ή τομέα και συγκρίνετε με το LoRA.

Σχετικές διαδρομές οδηγώνΕπίπεδα προσαρμογέα για μεταφορά
Ερώτηση 1 του 8

Τι συμβαίνει με τα αρχικά προπονημένα βάρη κατά την προπόνηση με προσαρμογείς;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Τι συμβαίνει με τα αρχικά προπονημένα βάρη κατά την προπόνηση με προσαρμογείς;
    • Είναι παγωμένα ενώ έχουν εκπαιδευτεί μόνο οι παράμετροι του προσαρμογέα
    • Διαγράφονται
    • Επαναρχικοποιούνται τυχαία
    • Διπλασιάζονται σε μέγεθος
  2. Ποια είναι η τυπική εσωτερική δομή ενός προσαρμογέα bottleneck;
    • Ένα ενιαίο τεράστιο πυκνό στρώμα
    • Μια προς τα κάτω προβολή, μια μη γραμμικότητα, μετά μια προς τα πάνω προβολή, με μια υπολειπόμενη σύνδεση
    • Μόνο ένα κεφάλι προσοχής
    • Ένα συνελικτικό φίλτρο εικόνας
  3. Τι κλάσμα παραμέτρων εκπαιδεύουν συνήθως οι προσαρμογείς;
    • 100%
    • Ακριβώς 50%
    • Συχνά κάτω από 5%
    • Καθόλου
  4. Γιατί οι προσαρμογείς είναι βολικοί για την εξυπηρέτηση πολλών εργασιών;
    • Απαιτούν ξεχωριστό πλήρες αντίγραφο μοντέλου ανά εργασία
    • Δεν μπορούν να συνδυαστούν
    • Διαγράφουν το βασικό μοντέλο μετά από κάθε εργασία
    • Διατηρείτε ένα βασικό μοντέλο και αλλάζετε μικρούς προσαρμογείς ανά εργασία
  5. Σε ποια οικογένεια τεχνικών ανήκουν οι προσαρμογείς;
    • Μικροσυντονισμός αποδοτικής παραμέτρου (PEFT)
    • Αύξηση δεδομένων
    • Συμπίεση εικόνας
    • Σχέδια Tokenization
  6. Τι πλεονέκτημα προσφέρει το LoRA σε σχέση με έναν κλασικό προσαρμογέα που έχει εισαχθεί κατά τον χρόνο συμπερασμάτων;
    • Δεν μπορεί να εκπαιδευτεί
    • Τα μαθησιακά βάρη του μπορούν να συγχωνευθούν στους βασικούς πίνακες, αποφεύγοντας την επιπλέον καθυστέρηση ανά στρώμα
    • Απαιτεί επανεκπαίδευση ολόκληρου του μοντέλου
    • Αφαιρεί οριστικά την υπολειπόμενη σύνδεση
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization