Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Adapterrétegek átviteli kvízhez
Check how bottleneck adapters preserve a frozen base model, enable modular task or domain transfer, and compare with LoRA.
kérdés 1 -ból 8
Mi történik az eredeti előedzett súlyokkal, ha adapterekkel edz?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mi történik az eredeti előedzett súlyokkal, ha adapterekkel edz?
- Lefagynak, miközben csak az adapter paraméterei vannak betanítva
- Törölve vannak
- Véletlenszerűen újrainicializálják őket
- Megkétszereződött a méretük
- Mi a szűk keresztmetszetű adapter tipikus belső szerkezete?
- Egyetlen hatalmas sűrű réteg
- Lefelé vetítés, nemlinearitás, majd felfelé vetítés, maradék kapcsolattal
- Csak egy figyelmes fej
- Konvolúciós képszűrő
- Körülbelül a paraméterek hányad részét képezik általában az adapterek?
- 100%
- pontosan 50%
- gyakran 5% alatt
- Egyáltalán nem
- Miért kényelmesek az adapterek sok feladat kiszolgálására?
- Feladatonként külön teljes modellpéldány szükséges
- Nem kombinálhatók
- Minden feladat után törlik az alapmodellt
- Megtart egy alapmodellt, és kis feladatonkénti adaptereket cserél
- Melyik technikacsaládba tartoznak az adapterek?
- Paraméter-hatékony finomhangolás (PEFT)
- Adatbővítés
- Képtömörítés
- Tokenizációs sémák
- Milyen előnyt kínál a LoRA a klasszikus behelyezett adapterrel szemben a következtetési időben?
- Nem lehet kiképezni
- Tanult súlyai beolvaszthatók az alapmátrixokba, elkerülve az extra rétegenkénti késleltetést
- Az egész modell átképzését igényli
- Véglegesen eltávolítja a maradék csatlakozást
- What does a residual connection contribute to a classic bottleneck adapter?
- A second full pretrained model copy for each task
- A mandatory external retrieval database
- A path that adds the adapter’s transformed representation back to the original hidden state
- A guarantee that no added computation occurs
- What is one benefit of stacking a domain adapter with a task adapter?
- Merge all user data into the frozen base weights automatically
- Avoid using any adapter modules
- Convert a language model into a vision encoder
- Reuse a domain specialization together with a separate task specialization