Kuiz berkaitan panduan · Sederhana Tahap
Kuiz Penjadualan Kadar Pembelajaran
Menyemak jadual pemanasan, kosinus dan langkah, mulakan semula tingkah laku, ketidakstabilan awal dan resipi latihan pemanasan kemudian pereputan biasa.
soalan 1 daripada 8
Apakah tujuan fasa 'pemanasan' dalam jadual kadar pembelajaran?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah tujuan fasa 'pemanasan' dalam jadual kadar pembelajaran?
- Untuk bermula dengan kadar yang kecil dan naikkan, mengelakkan ketidakstabilan daripada kecerunan awal yang bising
- Untuk membuat ketepatan akhir lebih rendah
- Untuk melangkau beberapa kelompok pertama data
- Untuk membekukan semua pemberat pada permulaan
- Jadual yang manakah dengan lancar mengikut lengkung separuh kosinus ke bawah ke arah kadar minimum?
- Jadual tetap
- Penyepuhlindapan kosinus
- Jadual rawak
- Peningkatan linear
- Apakah yang berlaku jika kadar pembelajaran ditetapkan terlalu tinggi?
- Latihan menumpu serta-merta dengan ketepatan yang sempurna
- Model berlatih lebih perlahan tetapi sentiasa berjaya
- Kerugian boleh menyimpang atau berayun dan bukannya berkurangan
- Tiada apa-apa perubahan; kadar itu tiada kesan
- Apakah kesan pereputan langkah kepada kadar pembelajaran?
- Meningkatkannya secara linear setiap kelompok
- Mengekalkannya dengan sempurna
- Tetapkan secara rawak setiap langkah
- Menggugurkannya dengan faktor tetap pada zaman yang telah ditetapkan
- What does a warm restart do to a learning-rate schedule?
- It raises the learning rate again to begin another schedule cycle
- It resets the model parameters to random values
- It permanently fixes the learning rate at zero
- It deletes the optimizer’s moment estimates
- In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
- It removed the need for a validation set
- It eased early optimization difficulties after the learning-rate scale increased with batch size
- It changed the model architecture after each epoch
- It converted the learning-rate curve into a cosine wave
- In the cosine formula, what does T denote?
- The number of model layers
- Saiz batch
- The schedule horizon or total number of steps used for the decay
- The optimizer’s momentum coefficient
- If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
- Exactly zero regardless of lr_min
- The original warmup starting rate
- An unbounded value
- The specified minimum learning rate