Gids-gekoppelde quiz · Middelmatig Niveau
Adapterlagen voor overdrachtquiz
Bekijk hoe knelpuntadapters een bevroren basismodel behouden, modulaire taak- of domeinoverdracht mogelijk maken en vergelijk met LoRA.
Vraag 1 van 8
Wat gebeurt er met de origineel voorgetrainde gewichten bij het trainen met adapters?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat gebeurt er met de origineel voorgetrainde gewichten bij het trainen met adapters?
- Ze worden bevroren terwijl alleen de adapterparameters worden getraind
- Ze worden verwijderd
- Ze worden willekeurig opnieuw geïnitialiseerd
- Ze zijn verdubbeld in omvang
- Wat is de typische interne structuur van een bottleneckadapter?
- Eén enkele enorme dichte laag
- Een neerwaartse projectie, een niet-lineariteit en vervolgens een opwaartse projectie, met een resterende verbinding
- Alleen een aandachtshoofd
- Een convolutioneel beeldfilter
- Welk deel van de parameters trainen adapters doorgaans ongeveer?
- 100%
- Precies 50%
- Vaak minder dan 5%
- Helemaal geen
- Waarom zijn adapters handig voor veel taken?
- Ze vereisen een afzonderlijke volledige modelkopie per taak
- Ze kunnen niet worden gecombineerd
- Ze wissen het basismodel na elke taak
- U behoudt één basismodel en verwisselt kleine adapters per taak
- Tot welke familie van technieken behoren adapters?
- Parameter-efficiënte fijnafstemming (PEFT)
- Gegevensvergroting
- Beeldcompressie
- Tokenisatieschema's
- Welk voordeel biedt LoRA ten opzichte van een klassieke ingevoegde adapter op het moment van inferentie?
- Het kan niet worden getraind
- De geleerde gewichten kunnen worden samengevoegd in de basismatrices, waardoor extra latentie per laag wordt vermeden
- Het vereist een herscholing van het hele model
- Het verwijdert de resterende verbinding permanent
- What does a residual connection contribute to a classic bottleneck adapter?
- A second full pretrained model copy for each task
- A mandatory external retrieval database
- A path that adds the adapter’s transformed representation back to the original hidden state
- A guarantee that no added computation occurs
- What is one benefit of stacking a domain adapter with a task adapter?
- Merge all user data into the frozen base weights automatically
- Avoid using any adapter modules
- Convert a language model into a vision encoder
- Reuse a domain specialization together with a separate task specialization