Kuiz Permulaan Berat

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Mengapakah permulaan semua pemberat kepada sifar merupakan kesilapan yang membawa maut?
   • Semua neuron menerima kecerunan yang sama dan tidak pernah membezakan (simetri tidak pecah)
   • Ia menjadikan latihan terlalu cepat
   • Ia menyebabkan kerugian menjadi negatif
   • Ia menggunakan terlalu banyak ingatan
2. Inisialisasi He (Kaiming) direka khusus untuk fungsi pengaktifan yang mana?
   • Sigmoid
   • ReLU
   • Tanh
   • Softmax
3. Apakah matlamat utama skim permulaan berat berprinsip?
   • Untuk menjadikan semua pemberat sama
   • Untuk menetapkan setiap berat kepada satu
   • Untuk memastikan varians pengaktifan dan kecerunan kira-kira malar merentas lapisan
   • Untuk menghapuskan keperluan data
4. Inisialisasi Xavier (Glorot) paling sesuai untuk rangkaian yang menggunakan pengaktifan yang mana?
   • ReLU dan variannya
   • Hanya pengaktifan linear
   • Tiada pengaktifan langsung
   • Tanh dan sigmoid
5. Mengapakah pemulaan He menggunakan varians 2 / fan_in dan bukannya 1 / fan_in?
   • Untuk mengimbangi penetapan ReLU kira-kira separuh daripada inputnya kepada sifar
   • Untuk membuat pemberat lebih besar tanpa sebab
   • Untuk mengurangkan bilangan parameter
   • Untuk memadankan saiz kumpulan
6. Bagaimanakah berat sebelah biasanya dimulakan apabila pemberat dimulakan secara rawak?
   • Kepada nilai positif yang sangat besar
   • Kepada sifar, kerana simetri sudah dipecahkan oleh pemberat rawak
   • Pada nilai yang sama dengan kadar pembelajaran
   • Kepada nilai rawak yang lebih besar daripada pemberat
7. Under Xavier initialization, which quantities determine the weight variance in the guide’s formula?
   • The number of training epochs and batch size
   • The output class count alone
   • Fan-in and fan-out
   • The activation’s test accuracy
8. For a ReLU layer with fan-in 64, what variance does the He formula 2/fan_in specify?
   • 1/64
   • 1/16
   • 2/64 squared
   • 1/32