Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Keratan Kecerunan

Menyemak keratan norma dan nilai, pemeliharaan arah, kawalan kecerunan meletup dan keratan setiap contoh dalam latihan persendirian yang berbeza.

Laluan panduan yang berkaitanKeratan Kecerunan
soalan 1 daripada 8

Apakah keratan kecerunan klip demi norma yang dikekalkan terutamanya semasa mengehadkan kemas kini?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah keratan kecerunan klip demi norma yang dikekalkan terutamanya semasa mengehadkan kemas kini?
    • Arah kemas kini kecerunan keseluruhan
    • Magnitud tepat setiap kecerunan
    • Bilangan parameter model
    • Jadual kadar pembelajaran
  2. Dalam klip demi norma dengan ambang c, apakah yang berlaku apabila norma kecerunan g_norm melebihi c?
    • Kecerunan ditetapkan kepada sifar
    • Setiap kecerunan didarab dengan c / g_norm
    • Latihan berhenti
    • Kadar pembelajaran digandakan
  3. Masalah yang manakah adalah keratan kecerunan yang direka khusus untuk memerangi?
    • Kecerunan yang hilang
    • Pemuatan data perlahan
    • Kecerunan yang meletup
    • Terlebih muat pada set pengesahan
  4. Bagaimanakah nilai klip demi nilai berbeza daripada klip demi norma?
    • Ia sentiasa mengekalkan arah kemas kini
    • Ia hanya berfungsi pada lapisan konvolusi
    • Ia menghilangkan kecerunan sepenuhnya
    • Ia mengapit setiap komponen kecerunan secara bebas ke dalam julat, yang boleh mengubah arah
  5. A minibatch produces an unusually large global gradient norm. What does clip-by-norm do before the optimizer update?
    • Scales the full gradient vector down to the configured threshold when the norm exceeds it
    • Changes the model’s labels
    • Drops every gradient component independently
    • Increases the learning rate until the loss recovers
  6. Dalam latihan persendirian berbeza (DP-SGD), apakah peranan yang dimainkan oleh keratan kecerunan setiap contoh?
    • Ia menyulitkan data
    • Ia mengehadkan pengaruh setiap contoh supaya bunyi yang ditentukur boleh menjamin privasi
    • Ia meningkatkan saiz kumpulan
    • Ia menghilangkan keperluan untuk fungsi kehilangan
  7. The global gradient norm is twice a clipping threshold c. By what factor is the gradient scaled?
    • dua
    • One quarter
    • One half (c divided by 2c)
    • It is left unchanged
  8. Why does DP-SGD clip each example’s gradient before adding calibrated noise?
    • To make all examples have the same label
    • To remove the need for a privacy budget
    • To increase the norm of rare-class gradients
    • To bound an individual example’s influence on the released update