Quiz collegato alla guida · Medio Livello
Livelli adattatori per Transfer Quiz
Scopri in che modo gli adattatori per colli di bottiglia preservano un modello base congelato, abilitano attività modulari o trasferimento di domini e confrontalo con LoRA.
Domanda 1 di 8
Cosa succede ai pesi preallenati originali quando ci si allena con gli adattatori?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Cosa succede ai pesi preallenati originali quando ci si allena con gli adattatori?
- Vengono congelati mentre vengono addestrati solo i parametri dell'adattatore
- Vengono cancellati
- Vengono reinizializzati in modo casuale
- Sono di dimensioni raddoppiate
- Qual è la struttura interna tipica di un adattatore collo di bottiglia?
- Un unico enorme strato denso
- Una proiezione verso il basso, una non linearità, poi una proiezione verso l'alto, con una connessione residua
- Solo una testa di attenzione
- Un filtro immagine convoluzionale
- Approssimativamente quale frazione di parametri vengono addestrati in genere gli adattatori?
- 100%
- Esattamente il 50%
- Spesso sotto il 5%
- Nessuno
- Perché gli adattatori sono convenienti per svolgere molte attività?
- Richiedono una copia completa separata del modello per attività
- Non possono essere combinati
- Cancellano il modello base dopo ogni attività
- Mantieni un modello base e scambia piccoli adattatori per attività
- A quale famiglia di tecniche appartengono gli adattatori?
- Regolazione fine efficiente dei parametri (PEFT)
- Aumento dei dati
- Compressione delle immagini
- Schemi di tokenizzazione
- Quale vantaggio offre LoRA rispetto a un classico adattatore inserito al momento dell'inferenza?
- Non può essere addestrato
- I suoi pesi appresi possono essere uniti nelle matrici di base, evitando una latenza aggiuntiva per strato
- Richiede la riqualificazione dell'intero modello
- Rimuove la connessione residua in modo permanente
- What does a residual connection contribute to a classic bottleneck adapter?
- A second full pretrained model copy for each task
- A mandatory external retrieval database
- A path that adds the adapter’s transformed representation back to the original hidden state
- A guarantee that no added computation occurs
- What is one benefit of stacking a domain adapter with a task adapter?
- Merge all user data into the frozen base weights automatically
- Avoid using any adapter modules
- Convert a language model into a vision encoder
- Reuse a domain specialization together with a separate task specialization