Keskinliğe Duyarlı Minimizasyon Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. SAM ne tür bir minimum değeri bulmaya çalışıyor?
   • Ağırlıkların olduğu bir mahallede kaybın düşük kaldığı sabit bir minimum
   • Mümkün olan en keskin minimum
   • En fazla parametre ile minimum
   • Tek adımda ulaşılabilecek herhangi bir minimum
2. Standart bir SAM adımı kaç ileri-geri geçiş gerektirir?
   • Yarım geçiş
   • Yaklaşık iki
   • Kesinlikle bir
   • On veya daha fazla
3. SAM'de yarıçap hiperparametresi rho neyi kontrol eder?
   • Öğrenme oranı bozulma hızı
   • Eğitim dönemi sayısı
   • Kayıp ani artışlara karşı korunan ağırlıkların etrafındaki mahallenin büyüklüğü
   • Bırakma olasılığı
4. SAM'in her yinelemedeki iki adımının ilki nedir?
   • Modeli küçült
   • Tüm geçmiş adımların ağırlıklarının ortalamasını alın
   • Optimize edici durumunu sıfırlayın
   • Yakındaki en kötü duruma doğru rho boyutunda bir yükseliş adımı atın
5. SAM neden sıklıkla etiket gürültüsüne karşı dayanıklılığı artırıyor?
   • Çünkü düz minimumlar bozuk etiketleri ezberlemeye daha az eğilimlidir
   • Çünkü gürültülü etiketleri otomatik olarak siler
   • Çünkü daha geniş bir kelime dağarcığı kullanıyor
   • Çünkü parti boyutunu üç katına çıkarıyor
6. Bunlardan hangisi SAM'in bilgi işlem maliyetini azaltmak için tasarlanmış bir değişkendir?
   • ReLU
   • ESAM (Verimli SAM)
   • Toplu Norm
   • Ada Grad
7. In SAM’s second pass, which gradient is used to update the original model weights?
   • The gradient of a random label
   • The first pass gradient without evaluating the perturbed point
   • The gradient evaluated at the perturbed nearby weights
   • A gradient from a different model checkpoint
8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
   • The model parameters are all set to zero
   • The loss becomes independent of the weights
   • The optimizer takes an infinite step
   • There is no weight perturbation, so the neighborhood reduces to the current point