প্রতিপক্ষের উদাহরণ এবং দৃঢ়তা কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. Under a specified threat model, what is an adversarial example?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. একটি 'হোয়াইট-বক্স' আক্রমণকে 'ব্ল্যাক-বক্স' আক্রমণ থেকে কী আলাদা করে?
   • হোয়াইট-বক্স আক্রমণ শুধুমাত্র সাদা ছবিতে কাজ করে
   • সাদা-বাক্সে, আক্রমণকারীর মডেলের অভ্যন্তরীণ/গ্রেডিয়েন্টগুলিতে অ্যাক্সেস রয়েছে; কালো বাক্সে, শুধুমাত্র আউটপুট
   • ব্ল্যাক-বক্স আক্রমণ সবসময় দ্রুত হয়
   • হোয়াইট-বক্স আক্রমণের কোনো গণনার প্রয়োজন নেই
3. FGSM (ফাস্ট গ্রেডিয়েন্ট সাইন মেথড) একটি প্রতিকূল উদাহরণ তৈরি করে...
   • এলোমেলোভাবে পিক্সেল এলোমেলো করা হচ্ছে
   • স্ক্র্যাচ থেকে মডেল পুনরায় প্রশিক্ষণ
   • ইনপুট সাপেক্ষে ক্ষতি গ্রেডিয়েন্টের চিহ্নের দিকে একটি পদক্ষেপ নেওয়া
   • ছবিটি ক্রপ করা হচ্ছে
4. What is adversarial training commonly used for?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. কেন প্রতিপক্ষের উদাহরণগুলির 'হস্তান্তরযোগ্যতা' সম্পর্কিত?
   • একটি মডেলের উপর তৈরি করা আক্রমণ প্রায়শই অন্য মডেলকে বোকা বানিয়ে, ব্ল্যাক-বক্স আক্রমণকে সক্ষম করে
   • এটা মডেল ট্রেন ধীর করে তোলে
   • এটি স্টোরেজ খরচ বাড়ায়
   • এটি শুধুমাত্র অডিও মডেল প্রভাবিত করে
6. How are prompt-injection attacks related to image adversarial examples?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting