Kuis Regularisasi

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Why would a practitioner add regularization when a model fits training-specific noise?
   • To guarantee zero training error
   • To remove the need for validation data
   • To guarantee a faster GPU kernel
   • To discourage overfitting and evaluate whether unseen-data performance improves
2. Teknik regularisasi mana yang paling mungkin mendorong beberapa bobot tepat ke nol, sehingga secara efektif memilih fitur?
   • Regularisasi L2 (peluruhan berat)
   • Regularisasi L1
   • Normalisasi batch
   • Meningkatkan kecepatan pembelajaran
3. Bagaimana cara dropout mengatur jaringan saraf selama pelatihan?
   • Ini menghapus lapisan secara permanen dari jaringan
   • Ini menambahkan bobot kuadrat ke fungsi kerugian
   • Ini secara acak mematikan neuron di setiap langkah sehingga mereka tidak dapat beradaptasi bersama
   • Itu menghentikan pelatihan ketika kehilangan validasi meningkat
4. Dalam 'kesalahan + lambda × penalti' kerugian yang diatur, apa yang dilakukan peningkatan lambda?
   • Memperkuat hukuman, mendorong model menuju solusi yang lebih sederhana
   • Melemahkan penalti dan memungkinkan bobot yang lebih besar
   • Menghapus istilah kesalahan seluruhnya
   • Tidak berpengaruh pada beban
5. Mengapa penghentian dini dapat dianggap sebagai bentuk regularisasi?
   • Karena itu menambah penalti berat pada kerugian
   • Karena ini menghentikan pelatihan sebelum model mulai menyesuaikan noise pada data
   • Karena ini meningkatkan kapasitas model seiring waktu
   • Karena itu menghilangkan neuron secara acak
6. What can happen when regularization is strengthened beyond what a task needs?
   • Both training and test accuracy must improve
   • The penalty becomes unrelated to the objective
   • Validation becomes unnecessary
   • The model can underfit useful structure even if variance decreases
7. For a regularization example with weights minus two and one, what are the unscaled L1 and sum-of-squares L2 penalties?
   • L1 is three and L2 is five
   • L1 is minus one and L2 is three
   • L1 is five and L2 is three
   • Both penalties are minus two
8. A regularized objective has prediction error two, lambda one-half, and penalty six. What is its total value?
   • Delapan
   • Tiga
   • Lima
   • Satu