Quiz collegato alla guida · Medio Livello

Livelli adattatori per Transfer Quiz

Scopri in che modo gli adattatori per colli di bottiglia preservano un modello base congelato, abilitano attività modulari o trasferimento di domini e confrontalo con LoRA.

Domanda 1 di 8

Cosa succede ai pesi preallenati originali quando ci si allena con gli adattatori?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Cosa succede ai pesi preallenati originali quando ci si allena con gli adattatori?
    • Vengono congelati mentre vengono addestrati solo i parametri dell'adattatore
    • Vengono cancellati
    • Vengono reinizializzati in modo casuale
    • Sono di dimensioni raddoppiate
  2. Qual è la struttura interna tipica di un adattatore collo di bottiglia?
    • Un unico enorme strato denso
    • Una proiezione verso il basso, una non linearità, poi una proiezione verso l'alto, con una connessione residua
    • Solo una testa di attenzione
    • Un filtro immagine convoluzionale
  3. Approssimativamente quale frazione di parametri vengono addestrati in genere gli adattatori?
    • 100%
    • Esattamente il 50%
    • Spesso sotto il 5%
    • Nessuno
  4. Perché gli adattatori sono convenienti per svolgere molte attività?
    • Richiedono una copia completa separata del modello per attività
    • Non possono essere combinati
    • Cancellano il modello base dopo ogni attività
    • Mantieni un modello base e scambia piccoli adattatori per attività
  5. A quale famiglia di tecniche appartengono gli adattatori?
    • Regolazione fine efficiente dei parametri (PEFT)
    • Aumento dei dati
    • Compressione delle immagini
    • Schemi di tokenizzazione
  6. Quale vantaggio offre LoRA rispetto a un classico adattatore inserito al momento dell'inferenza?
    • Non può essere addestrato
    • I suoi pesi appresi possono essere uniti nelle matrici di base, evitando una latenza aggiuntiva per strato
    • Richiede la riqualificazione dell'intero modello
    • Rimuove la connessione residua in modo permanente
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization