Maswali yanayounganishwa na mwongozo · Kati Kiwango

Tabaka za Adapta za Maswali ya Uhamisho

Angalia jinsi adapta za vikwazo huhifadhi muundo wa msingi uliogandishwa, kuwezesha kazi ya kawaida au uhamishaji wa kikoa, na ulinganishe na LoRA.

Njia za mwongozo zinazohusianaTabaka za Adapta za Uhamisho
Swali 1 ya 8

Ni nini hufanyika kwa uzani wa awali uliofundishwa wakati wa kufanya mazoezi na adapta?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Ni nini hufanyika kwa uzani wa awali uliofundishwa wakati wa kufanya mazoezi na adapta?
    • Zimegandishwa wakati vigezo vya adapta pekee vinafunzwa
    • Zinafutwa
    • Wao ni nasibu reinitialized
    • Wao ni mara mbili kwa ukubwa
  2. Ni muundo gani wa kawaida wa ndani wa adapta ya chupa?
    • Safu moja kubwa mnene
    • Makadirio ya chini, yasiyo ya mstari, kisha makadirio ya juu, na muunganisho wa mabaki.
    • Kichwa cha tahadhari tu
    • Kichujio cha kubadilisha picha
  3. Takriban ni sehemu gani ya vigezo ambavyo adapta kawaida hufunza?
    • 100%
    • 50% kabisa
    • Mara nyingi chini ya 5%
    • Hakuna hata kidogo
  4. Kwa nini adapta zinafaa kwa kutumikia kazi nyingi?
    • Zinahitaji nakala tofauti ya muundo kamili kwa kila kazi
    • Haziwezi kuunganishwa
    • Wanafuta mfano wa msingi baada ya kila kazi
    • Unaweka modeli moja ya msingi na kubadilishana adapta ndogo kwa kila kazi
  5. Adapta ni za familia gani ya mbinu?
    • Urekebishaji mzuri wa kigezo (PEFT)
    • Uboreshaji wa data
    • Ukandamizaji wa picha
    • Mipango ya tokenization
  6. Je, LoRA inatoa faida gani juu ya adapta ya kawaida iliyoingizwa kwa wakati wa makisio?
    • Haiwezi kufunzwa
    • Uzito wake uliojifunza unaweza kuunganishwa kwenye matrices ya msingi, kuepuka latency ya ziada kwa kila safu
    • Inahitaji kufundisha tena mfano mzima
    • Huondoa muunganisho wa mabaki kabisa
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization