Kuiz berkaitan panduan · Keras Tahap
Kuiz Normalisasi Kelompok
Menyemak statistik kelompok, skala dan anjakan affine, purata larian, ketidakstabilan kelompok kecil dan cara BatchNorm berbeza daripada LayerNorm.
soalan 1 daripada 8
Apakah normalisasi kelompok dinormalisasi?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah normalisasi kelompok dinormalisasi?
- Input ke lapisan, merentasi contoh dalam kelompok mini semasa
- Label keluaran akhir rangkaian
- Jadual kadar pembelajaran dari semasa ke semasa
- Saiz set data latihan
- Mengapakah penormalan kelompok termasuk parameter yang boleh dipelajari gamma dan beta?
- Untuk meningkatkan saiz set data
- Untuk membiarkan rangkaian menskalakan dan mengalihkan nilai yang dinormalkan, mengekalkan kuasa perwakilan
- Untuk menjatuhkan neuron secara rawak semasa latihan
- Untuk mengira fungsi kehilangan
- Apakah faedah praktikal yang biasa disebut untuk normalisasi kelompok?
- Ia menghapuskan keperluan untuk sebarang data latihan
- Ia menjamin model tidak boleh terlalu muat
- Ia membolehkan kadar pembelajaran yang lebih tinggi dan penumpuan yang lebih cepat dan lebih stabil
- Ia menghilangkan keperluan untuk fungsi pengaktifan
- Pada masa inferens (meramalkan data baharu), apakah statistik yang digunakan oleh normalisasi kelompok?
- Min dan varians input tunggal semasa sahaja
- Statistik yang dijana secara rawak setiap kali
- Statistik set ujian dikira terlebih dahulu
- Menjalankan purata min dan varians terkumpul semasa latihan
- Mengapakah penormalan kelompok boleh berkelakuan buruk dengan saiz kelompok yang sangat kecil?
- Statistik kelompok menjadi bising dan tidak boleh dipercayai anggaran pengedaran sebenar
- Kelompok kecil menjadikan model terlalu besar untuk dimuatkan dalam ingatan
- Ia melumpuhkan fungsi pengaktifan
- Kelompok kecil memaksa penggunaan regularisasi L1
- Teknik penormalan manakah yang paling biasa digunakan dalam seni bina transformer sebagai alternatif kepada penormalan kelompok?
- Normalisasi putus sekolah
- Normalisasi lapisan
- L2 normalisasi kerugian
- Keratan kecerunan
- Why does BatchNorm use running averages during inference instead of the current test batch’s statistics?
- To retrain the model on test data
- To make all activations exactly zero
- So a prediction does not depend on which other examples happen to share the batch
- To eliminate learned gamma and beta
- Where is BatchNorm commonly placed within a layer block according to the guide?
- Only after the final prediction
- Before the input data are loaded
- Inside the optimizer update
- Between the linear transformation and its activation function