Gids-gekoppelde quiz · Middelmatig Niveau

Adapterlagen voor overdrachtquiz

Bekijk hoe knelpuntadapters een bevroren basismodel behouden, modulaire taak- of domeinoverdracht mogelijk maken en vergelijk met LoRA.

Gerelateerde gidspadenAdapterlagen voor overdracht
Vraag 1 van 8

Wat gebeurt er met de origineel voorgetrainde gewichten bij het trainen met adapters?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat gebeurt er met de origineel voorgetrainde gewichten bij het trainen met adapters?
    • Ze worden bevroren terwijl alleen de adapterparameters worden getraind
    • Ze worden verwijderd
    • Ze worden willekeurig opnieuw geïnitialiseerd
    • Ze zijn verdubbeld in omvang
  2. Wat is de typische interne structuur van een bottleneckadapter?
    • Eén enkele enorme dichte laag
    • Een neerwaartse projectie, een niet-lineariteit en vervolgens een opwaartse projectie, met een resterende verbinding
    • Alleen een aandachtshoofd
    • Een convolutioneel beeldfilter
  3. Welk deel van de parameters trainen adapters doorgaans ongeveer?
    • 100%
    • Precies 50%
    • Vaak minder dan 5%
    • Helemaal geen
  4. Waarom zijn adapters handig voor veel taken?
    • Ze vereisen een afzonderlijke volledige modelkopie per taak
    • Ze kunnen niet worden gecombineerd
    • Ze wissen het basismodel na elke taak
    • U behoudt één basismodel en verwisselt kleine adapters per taak
  5. Tot welke familie van technieken behoren adapters?
    • Parameter-efficiënte fijnafstemming (PEFT)
    • Gegevensvergroting
    • Beeldcompressie
    • Tokenisatieschema's
  6. Welk voordeel biedt LoRA ten opzichte van een klassieke ingevoegde adapter op het moment van inferentie?
    • Het kan niet worden getraind
    • De geleerde gewichten kunnen worden samengevoegd in de basismatrices, waardoor extra latentie per laag wordt vermeden
    • Het vereist een herscholing van het hele model
    • Het verwijdert de resterende verbinding permanent
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization