أمثلة الخصومة ومسابقة المتانة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. وفق نموذج تهديد محدد، ما هو المثال الخصمي؟
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. ما الذي يميز هجوم "الصندوق الأبيض" عن هجوم "الصندوق الأسود"؟
   • تعمل هجمات المربع الأبيض فقط على الصور البيضاء
   • في المربع الأبيض، يستطيع المهاجم الوصول إلى الأجزاء الداخلية/التدرجات اللونية للنموذج؛ في الصندوق الأسود، المخرجات فقط
   • هجمات الصندوق الأسود تكون دائمًا أسرع
   • هجمات الصندوق الأبيض لا تتطلب أي حساب
3. تقوم FGSM (طريقة تسجيل التدرج السريع) بصياغة مثال عدائي من خلال...
   • خلط البكسلات بشكل عشوائي
   • إعادة تدريب النموذج من الصفر
   • اتخاذ خطوة في اتجاه إشارة تدرج الخسارة فيما يتعلق بالإدخال
   • اقتصاص الصورة
4. ما هو الاستخدام الشائع للتدريب الخصمي؟
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. لماذا تعتبر "قابلية نقل" الأمثلة المتعارضة مثيرة للقلق؟
   • غالبًا ما يخدع الهجوم المصمم على أحد النماذج النماذج الأخرى، مما يتيح إمكانية شن هجمات الصندوق الأسود
   • يجعل النماذج تتدرب بشكل أبطأ
   • أنه يزيد من تكاليف التخزين
   • إنه يؤثر فقط على النماذج الصوتية
6. كيف ترتبط هجمات حقن المطالبات بأمثلة الخصم الصورية؟
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting