مخالف مثالیں اور مضبوطی کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. Under a specified threat model, what is an adversarial example?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. 'وائٹ باکس' حملے کو 'بلیک باکس' حملے سے کیا فرق ہے؟
   • وائٹ باکس حملے صرف سفید تصاویر پر کام کرتے ہیں۔
   • وائٹ باکس میں، حملہ آور کو ماڈل کے انٹرنل/گریڈینٹ تک رسائی حاصل ہے۔ بلیک باکس میں، صرف آؤٹ پٹ
   • بلیک باکس حملے ہمیشہ تیز ہوتے ہیں۔
   • وائٹ باکس حملوں کے لیے کسی حساب کتاب کی ضرورت نہیں ہے۔
3. FGSM (فاسٹ گریڈینٹ سائن میتھڈ) ایک مخالف مثال تیار کرتا ہے بذریعہ...
   • تصادفی طور پر شفلنگ پکسلز
   • ماڈل کو شروع سے دوبارہ تربیت دینا
   • ان پٹ کے حوالے سے نقصان کے میلان کے نشان کی سمت میں ایک قدم اٹھانا
   • تصویر کو تراشنا
4. What is adversarial training commonly used for?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. مخالف مثالوں کی 'منتقلی' کیوں ہے؟
   • ایک ماڈل پر تیار کیا گیا حملہ اکثر دوسرے ماڈلز کو بے وقوف بناتا ہے، جس سے بلیک باکس کے حملے ہوتے ہیں۔
   • یہ ماڈلز کی ٹرین کو سست بناتا ہے۔
   • یہ اسٹوریج کے اخراجات کو بڑھاتا ہے۔
   • یہ صرف آڈیو ماڈلز کو متاثر کرتا ہے۔
6. How are prompt-injection attacks related to image adversarial examples?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting