Kuiz berkaitan panduan · Sederhana Tahap
Lapisan Penyesuai untuk Kuiz Pemindahan
Semak cara penyesuai kesesakan mengekalkan model asas beku, dayakan tugas modular atau pemindahan domain dan bandingkan dengan LoRA.
soalan 1 daripada 8
Apakah yang berlaku kepada pemberat asal yang telah dilatih apabila berlatih dengan penyesuai?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah yang berlaku kepada pemberat asal yang telah dilatih apabila berlatih dengan penyesuai?
- Ia dibekukan manakala hanya parameter penyesuai dilatih
- Mereka dipadamkan
- Mereka dimulakan semula secara rawak
- Mereka berganda dalam saiz
- Apakah struktur dalaman tipikal penyesuai kesesakan?
- Satu lapisan padat yang besar
- Unjuran ke bawah, tidak linear, kemudian unjuran atas, dengan sambungan baki
- Hanya kepala perhatian
- Penapis imej konvolusi
- Kira-kira apakah pecahan parameter yang biasanya dilatih oleh penyesuai?
- 100%
- Tepat 50%
- Selalunya di bawah 5%
- Tiada langsung
- Mengapa penyesuai mudah untuk melaksanakan banyak tugas?
- Mereka memerlukan salinan model penuh yang berasingan bagi setiap tugas
- Mereka tidak boleh digabungkan
- Mereka memadamkan model asas selepas setiap tugasan
- Anda menyimpan satu model asas dan menukar penyesuai kecil setiap tugas
- Kepunyaan keluarga teknik manakah penyesuai?
- Penalaan halus cekap parameter (PEFT)
- Penambahan data
- Pemampatan imej
- Skim tokenisasi
- Apakah kelebihan yang ditawarkan oleh LoRA berbanding penyesuai yang dimasukkan klasik pada masa inferens?
- Ia tidak boleh dilatih
- Pemberat yang dipelajari boleh digabungkan ke dalam matriks asas, mengelakkan kependaman tambahan setiap lapisan
- Ia memerlukan latihan semula keseluruhan model
- Ia mengalih keluar sambungan baki secara kekal
- What does a residual connection contribute to a classic bottleneck adapter?
- A second full pretrained model copy for each task
- A mandatory external retrieval database
- A path that adds the adapter’s transformed representation back to the original hidden state
- A guarantee that no added computation occurs
- What is one benefit of stacking a domain adapter with a task adapter?
- Merge all user data into the frozen base weights automatically
- Avoid using any adapter modules
- Convert a language model into a vision encoder
- Reuse a domain specialization together with a separate task specialization