Kuis Pembelajaran Multi-Tugas

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Bagaimana model pembelajaran multitugas diatur selama pelatihan?
   • Melatih satu model pada beberapa tugas terkait dengan representasi bersama
   • Melatih model terpisah untuk setiap tugas
   • Hanya menggunakan data yang tidak berlabel untuk satu tugas
   • Menghapus semua lapisan tersembunyi dari jaringan
2. Dalam jaringan MTL berbagi parameter keras, apa yang dibagikan dan apa yang terpisah?
   • Semuanya terpisah per tugas
   • Tulang punggung bersama dengan kepala keluaran tugas spesifik
   • Hanya fungsi kerugian yang dibagikan
   • Hanya data masukan, tidak pernah lapisannya
3. Mengapa pembelajaran multitugas dapat meningkatkan generalisasi?
   • Ini menghilangkan kebutuhan akan data apa pun
   • Ini menjamin tidak ada kesalahan pelatihan
   • Sinyal dari tugas terkait mengatur representasi bersama dan mengurangi overfitting
   • Ini menghilangkan kebutuhan akan kepala yang spesifik untuk tugas tertentu
4. Apa yang dimaksud dengan 'transfer negatif' dalam pembelajaran multitugas?
   • Saat menambahkan tugas mempercepat pelatihan
   • Ketika model memiliki terlalu sedikit parameter
   • Ketika semua tugas berbagi label yang sama
   • Ketika pembelajaran suatu tugas mengganggu kinerja tugas lainnya karena sinyal yang bertentangan
5. Bagaimana biasanya kerugian keseluruhan terbentuk dalam pembelajaran multi-tugas?
   • Sebagai jumlah tertimbang dari kerugian tugas individu
   • Dengan hanya mengambil kerugian tugas terbesar
   • Dengan mengabaikan semua kecuali satu tugas
   • Dengan mengalikan kerugian bersama-sama
6. Mengapa model bahasa besar dianggap bersifat multitugas?
   • Mereka hanya dapat melakukan satu tugas tetap
   • Sebuah jaringan tunggal menangani penerjemahan, peringkasan, pengkodean, dan tanya jawab
   • Mereka menggunakan model yang berbeda untuk setiap prompt
   • Mereka tidak pernah berbagi parameter di seluruh tugas
7. In soft parameter sharing, how are task models usually related?
   • They use one identical model with no task-specific outputs
   • They share no information and cannot exchange features
   • They keep separate parameters but add a constraint or penalty encouraging similarity
   • They share only the training labels
8. What does PCGrad do when two task gradients conflict?
   • It discards every task except the largest one
   • It changes the task labels
   • It replaces the shared backbone with separate datasets
   • It projects away conflicting gradient components before combining updates