प्रतिकूल उदाहरण और मजबूती प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. Under a specified threat model, what is an adversarial example?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. 'व्हाइट-बॉक्स' हमले को 'ब्लैक-बॉक्स' हमले से क्या अलग करता है?
   • व्हाइट-बॉक्स हमले केवल सफेद छवियों पर काम करते हैं
   • व्हाइट-बॉक्स में, हमलावर के पास मॉडल के आंतरिक/ग्रेडिएंट तक पहुंच होती है; ब्लैक-बॉक्स में, केवल आउटपुट
   • ब्लैक-बॉक्स हमले हमेशा तेज़ होते हैं
   • व्हाइट-बॉक्स हमलों के लिए किसी गणना की आवश्यकता नहीं होती है
3. एफजीएसएम (फास्ट ग्रेडिएंट साइन मेथड) एक प्रतिकूल उदाहरण तैयार करता है...
   • पिक्सेल को बेतरतीब ढंग से फेरबदल करना
   • मॉडल को स्क्रैच से पुनः प्रशिक्षित करना
   • इनपुट के संबंध में हानि प्रवणता के संकेत की दिशा में एक कदम उठाना
   • छवि को काटना
4. What is adversarial training commonly used for?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. प्रतिकूल उदाहरणों की 'हस्तांतरणीयता' क्यों संबंधित है?
   • एक मॉडल पर तैयार किया गया हमला अक्सर अन्य मॉडलों को मूर्ख बनाता है, जिससे ब्लैक-बॉक्स हमले संभव हो जाते हैं
   • इससे मॉडलों का प्रशिक्षण धीमा हो जाता है
   • इससे भंडारण लागत बढ़ जाती है
   • यह केवल ऑडियो मॉडल को प्रभावित करता है
6. How are prompt-injection attacks related to image adversarial examples?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting