Kuis Regularisasi Dropout dan Stochastic

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa yang dilakukan dropout selama pelatihan?
   • Menghapus bobot secara permanen
   • Secara acak menyetel sebagian kecil keluaran neuron ke nol pada setiap lintasan maju
   • Menggandakan kecepatan pembelajaran
   • Menambahkan lebih banyak lapisan ke jaringan
2. Mengapa dropout meningkatkan generalisasi?
   • Ini meningkatkan jumlah parameter
   • Ini menghilangkan kebutuhan akan data pelatihan
   • Ini menjamin tidak ada kesalahan pelatihan
   • Ini mencegah neuron beradaptasi bersama dan memaksa representasi yang kuat dan berlebihan
3. Apa yang terjadi pada dropout pada waktu ujian (inferensi)?
   • Itu dimatikan dan jaringan penuh digunakan
   • Ini menjatuhkan lebih banyak neuron
   • Ini menghapus separuh beban
   • Ini mengacak label
4. Tingkat putus sekolah p = 0,5 dalam satu lapisan berarti kira-kira apa yang terjadi selama pelatihan?
   • Semua neuron dihilangkan
   • Tidak ada neuron yang terpengaruh
   • Sekitar setengah dari neuron dipusatkan pada setiap lintasan
   • Lapisan tersebut dihapus
5. Apa yang dimaksud dengan dropout yang sering digambarkan sebagai perkiraan?
   • Regresi linier tunggal
   • Pohon keputusan
   • Transformasi Fourier
   • Kumpulan dari banyak jaringan yang menipis dan berbagi bobot
6. Untuk apa putus sekolah di Monte Carlo?
   • Mempercepat pemuatan data
   • Memperkirakan ketidakpastian model dengan menjaga agar dropout tetap aktif pada inferensi
   • Mengompresi jaringan menjadi lebih sedikit bobot
   • Memberi label pada data pelatihan secara otomatis
7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
   • The keep probability becomes exactly zero
   • Inference always averages new random masks
   • Surviving activations were already scaled during training
   • Every weight is divided by the number of layers
8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
   • New random masks sample different subnetworks on each pass
   • The input changes its label by itself
   • The network has no trained weights
   • Batch size must be one