التدرج لقطة مسابقة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما الذي يحافظ عليه المقطع المتدرج بشكل أساسي مع تقييد التحديث؟
   • اتجاه التحديث التدرج الشامل
   • الحجم الدقيق لكل التدرج
   • عدد معلمات النموذج
   • جدول معدل التعلم
2. في المقطع حسب القاعدة مع العتبة c، ماذا يحدث عندما يتجاوز معيار التدرج g_norm c؟
   • تم ضبط التدرجات على الصفر
   • يتم ضرب كل تدرج بـ c / g_norm
   • يتوقف التدريب
   • يتم مضاعفة معدل التعلم
3. ما هي المشكلة التي تم تصميم القطع المتدرج خصيصًا لمكافحتها؟
   • اختفاء التدرجات
   • بطء تحميل البيانات
   • انفجار التدرجات
   • التجهيز الزائد لمجموعة التحقق من الصحة
4. كيف يختلف المقطع حسب القيمة عن المقطع حسب القاعدة؟
   • يحافظ دائمًا على اتجاه التحديث
   • إنه يعمل فقط على الطبقات التلافيفية
   • فهو يزيل التدرجات تماما
   • فهو يربط كل مكون متدرج بشكل مستقل في نطاق، مما يمكنه تغيير الاتجاه
5. A minibatch produces an unusually large global gradient norm. What does clip-by-norm do before the optimizer update?
   • Scales the full gradient vector down to the configured threshold when the norm exceeds it
   • Changes the model’s labels
   • Drops every gradient component independently
   • Increases the learning rate until the loss recovers
6. في التدريب الخاص التفاضلي (DP-SGD)، ما هو الدور الذي يلعبه قص التدرج لكل مثال؟
   • يقوم بتشفير البيانات
   • إنه يحد من تأثير كل مثال بحيث يمكن أن تضمن الضوضاء المعايرة الخصوصية
   • أنه يزيد من حجم الدفعة
   • يلغي الحاجة إلى وظيفة الخسارة
7. The global gradient norm is twice a clipping threshold c. By what factor is the gradient scaled?
   • اثنان
   • One quarter
   • One half (c divided by 2c)
   • It is left unchanged
8. Why does DP-SGD clip each example’s gradient before adding calibrated noise?
   • To make all examples have the same label
   • To remove the need for a privacy budget
   • To increase the norm of rare-class gradients
   • To bound an individual example’s influence on the released update