Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Adapterrétegek átviteli kvízhez

Check how bottleneck adapters preserve a frozen base model, enable modular task or domain transfer, and compare with LoRA.

Kapcsolódó útmutató utakAdapter rétegek átvitelhez
kérdés 1 -ból 8

Mi történik az eredeti előedzett súlyokkal, ha adapterekkel edz?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mi történik az eredeti előedzett súlyokkal, ha adapterekkel edz?
    • Lefagynak, miközben csak az adapter paraméterei vannak betanítva
    • Törölve vannak
    • Véletlenszerűen újrainicializálják őket
    • Megkétszereződött a méretük
  2. Mi a szűk keresztmetszetű adapter tipikus belső szerkezete?
    • Egyetlen hatalmas sűrű réteg
    • Lefelé vetítés, nemlinearitás, majd felfelé vetítés, maradék kapcsolattal
    • Csak egy figyelmes fej
    • Konvolúciós képszűrő
  3. Körülbelül a paraméterek hányad részét képezik általában az adapterek?
    • 100%
    • pontosan 50%
    • gyakran 5% alatt
    • Egyáltalán nem
  4. Miért kényelmesek az adapterek sok feladat kiszolgálására?
    • Feladatonként külön teljes modellpéldány szükséges
    • Nem kombinálhatók
    • Minden feladat után törlik az alapmodellt
    • Megtart egy alapmodellt, és kis feladatonkénti adaptereket cserél
  5. Melyik technikacsaládba tartoznak az adapterek?
    • Paraméter-hatékony finomhangolás (PEFT)
    • Adatbővítés
    • Képtömörítés
    • Tokenizációs sémák
  6. Milyen előnyt kínál a LoRA a klasszikus behelyezett adapterrel szemben a következtetési időben?
    • Nem lehet kiképezni
    • Tanult súlyai beolvaszthatók az alapmátrixokba, elkerülve az extra rétegenkénti késleltetést
    • Az egész modell átképzését igényli
    • Véglegesen eltávolítja a maradék csatlakozást
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization