الحدة-Aware الحد الأدنى مسابقة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما هو نوع الحد الأدنى الذي تحاول SAM إيجاده؟
   • الحد الأدنى الثابت حيث تظل الخسارة منخفضة عبر منطقة من الأوزان
   • الحد الأدنى الممكن
   • الحد الأدنى مع معظم المعلمات
   • أي حد أدنى يمكن الوصول إليه في خطوة واحدة
2. ما عدد التمريرات للأمام والخلف التي تتطلبها خطوة SAM القياسية؟
   • نصف تمريرة
   • ما يقرب من اثنين
   • واحد بالضبط
   • عشرة أو أكثر
3. ما الذي يتحكم فيه نصف القطر rho في SAM؟
   • سرعة اضمحلال معدل التعلم
   • عدد فترات التدريب
   • حجم الحي المحيط بالأوزان المحمي من طفرات الخسارة
   • احتمال التسرب
4. ما هي أول خطوتين لـ SAM في كل تكرار؟
   • تقليص النموذج
   • متوسط أوزان جميع الخطوات الماضية
   • إعادة تعيين حالة المحسن
   • اتخذ خطوة صعود بحجم rho نحو أسوأ نقطة قريبة
5. لماذا يقوم SAM في كثير من الأحيان بتحسين المتانة لتسمية الضوضاء؟
   • لأن الحد الأدنى المسطح أقل عرضة لحفظ التسميات التالفة
   • لأنه يحذف التسميات المزعجة تلقائيًا
   • لأنه يستخدم مفردات أكبر
   • لأنه يضاعف حجم الدفعة ثلاث مرات
6. أي مما يلي يعد متغيرًا مصممًا لتقليل تكلفة حوسبة SAM؟
   • ReLU
   • ESAM (SAM الفعال)
   • BatchNorm
   • اداغراد
7. In SAM’s second pass, which gradient is used to update the original model weights?
   • The gradient of a random label
   • The first pass gradient without evaluating the perturbed point
   • The gradient evaluated at the perturbed nearby weights
   • A gradient from a different model checkpoint
8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
   • The model parameters are all set to zero
   • The loss becomes independent of the weights
   • The optimizer takes an infinite step
   • There is no weight perturbation, so the neighborhood reduces to the current point