Kuis terkait panduan · Keras Tingkat

Kuis Minimisasi Sadar Ketajaman

Memeriksa pembaruan dua jalur SAM, radius lingkungannya, gradien bobot yang terganggu, dan trade-off antara kerataan dan komputasi.

Jalur panduan terkaitMinimisasi Sadar Ketajaman
Pertanyaan 1 dari 8

Nilai minimum apa yang coba dicari SAM?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Nilai minimum apa yang coba dicari SAM?
    • Nilai minimum yang tetap dimana kerugian tetap rendah di seluruh lingkungan bobot
    • Minimum paling tajam
    • Minimum dengan parameter terbanyak
    • Jumlah minimum apa pun yang dapat dicapai dalam satu langkah
  2. Berapa banyak gerakan maju-mundur yang dibutuhkan oleh langkah SAM standar?
    • Setengah lulus
    • Kira-kira dua
    • Tepat satu
    • Sepuluh atau lebih
  3. Apa yang dikontrol radius hyperparameter rho di SAM?
    • Kecepatan peluruhan kecepatan pembelajaran
    • Jumlah periode pelatihan
    • Ukuran lingkungan sekitar bobot yang terlindung dari lonjakan kerugian
    • Kemungkinan putus sekolah
  4. Apa langkah pertama dari dua langkah SAM pada setiap iterasi?
    • Kecilkan modelnya
    • Rata-ratakan bobot semua langkah sebelumnya
    • Setel ulang status pengoptimal
    • Ambil langkah pendakian sebesar rho menuju titik terburuk terdekat
  5. Mengapa SAM sering kali meningkatkan ketahanan terhadap pelabelan noise?
    • Karena flat minima kurang rentan untuk mengingat label yang rusak
    • Karena itu menghapus label yang berisik secara otomatis
    • Karena menggunakan kosa kata yang lebih besar
    • Karena itu melipatgandakan ukuran batch
  6. Manakah dari varian berikut yang dirancang untuk mengurangi biaya komputasi SAM?
    • ULT
    • ESAM (SAM Efisien)
    • Norma Batch
    • AdaGrad
  7. In SAM’s second pass, which gradient is used to update the original model weights?
    • The gradient of a random label
    • The first pass gradient without evaluating the perturbed point
    • The gradient evaluated at the perturbed nearby weights
    • A gradient from a different model checkpoint
  8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
    • The model parameters are all set to zero
    • The loss becomes independent of the weights
    • The optimizer takes an infinite step
    • There is no weight perturbation, so the neighborhood reduces to the current point