Kuis Penjadwalan Kecepatan Pembelajaran

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa tujuan fase 'pemanasan' dalam jadwal kecepatan pembelajaran?
   • Untuk memulai dengan kecepatan kecil dan meningkatkannya, menghindari ketidakstabilan dari gradien awal yang bising
   • Untuk membuat akurasi akhir lebih rendah
   • Untuk melewati beberapa kumpulan data pertama
   • Untuk membekukan semua beban di awal
2. Jadwal manakah yang mengikuti kurva setengah kosinus ke bawah menuju tingkat minimum?
   • Jadwal yang konstan
   • Anil kosinus
   • Jadwal acak
   • Peningkatan linier
3. Apa yang terjadi jika kecepatan pemelajaran disetel terlalu tinggi?
   • Pelatihan menyatu secara instan dengan akurasi sempurna
   • Model ini berlatih lebih lambat tetapi selalu berhasil
   • Kerugiannya bisa menyimpang atau terombang-ambing bukannya menurun
   • Tidak ada yang berubah; tarifnya tidak berpengaruh
4. Apa pengaruh peluruhan langkah terhadap kecepatan pemelajaran?
   • Meningkatkannya secara linear setiap batch
   • Jaga agar tetap konstan
   • Tetapkan secara acak setiap langkah
   • Menghilangkannya dengan faktor tetap pada waktu yang telah ditentukan
5. What does a warm restart do to a learning-rate schedule?
   • It raises the learning rate again to begin another schedule cycle
   • It resets the model parameters to random values
   • It permanently fixes the learning rate at zero
   • It deletes the optimizer’s moment estimates
6. In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
   • It removed the need for a validation set
   • It eased early optimization difficulties after the learning-rate scale increased with batch size
   • It changed the model architecture after each epoch
   • It converted the learning-rate curve into a cosine wave
7. In the cosine formula, what does T denote?
   • The number of model layers
   • Ukuran kumpulan
   • The schedule horizon or total number of steps used for the decay
   • The optimizer’s momentum coefficient
8. If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
   • Exactly zero regardless of lr_min
   • The original warmup starting rate
   • An unbounded value
   • The specified minimum learning rate