মডেল নিষ্কাশন এবং চুরি আক্রমণ ক্যুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. একটি মডেল নিষ্কাশন আক্রমণ পিছনে মূল ধারণা কি?
   • মডেল জিজ্ঞাসা করা এবং এর ফলাফল অনুকরণ করার জন্য একটি বিকল্প প্রশিক্ষণ
   • সার্ভারে হ্যাকিং করে ওজন ফাইল সরাসরি কপি করা
   • প্রশিক্ষণের ডেটাসেট ফাঁস করার জন্য একজন কর্মচারীকে ঘুষ দেওয়া
   • API কে ওভারলোড করা হচ্ছে যতক্ষণ না এটি ক্র্যাশ করে এবং মেমরি ডাম্প করে
2. কেন সম্পূর্ণ সম্ভাব্যতা ভেক্টর ফেরত শুধুমাত্র একটি শীর্ষ-1 লেবেল ফেরত চেয়ে নিষ্কাশন সহজ করে তোলে?
   • এটি প্রতিক্রিয়া এনক্রিপ্ট করে, আক্রমণকারীকে ধীর করে দেয়
   • এটি প্রতি ক্যোয়ারীতে আরও তথ্য ফাঁস করে, তাই কম ক্যোয়ারী প্রয়োজন
   • এটি সিদ্ধান্তের সীমানা সম্পূর্ণরূপে লুকিয়ে রাখে
   • এটি সার্ভারের খরচ বাড়ায় তাই আক্রমণকারীরা হাল ছেড়ে দেয়
3. কোন প্রতিরক্ষামূলক কৌশল সরাসরি প্রতি প্রশ্নে ফাঁস হওয়া তথ্য হ্রাস করে?
   • সার্ভারে আরো GPU যোগ করা হচ্ছে
   • মডেলের পরামিতি সংখ্যা বৃদ্ধি
   • বৃত্তাকার বা টপ-1-শুধুমাত্র আউটপুট রিটার্নিং
   • প্রশিক্ষণের তথ্য প্রকাশ্যে প্রকাশ করা
4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
   • It reconstructs every GPT-3.5 parameter exactly for under $20
   • It obtains the model’s training dataset directly
   • It extracts a complete model checkpoint from the API
   • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
5. কেন চুরি করা বিকল্প মডেল শুধু হারানো রাজস্বের বাইরে বিপজ্জনক?
   • এটি অফলাইন হোয়াইট-বক্স আক্রমণগুলিকে সক্ষম করে যেমন প্রতিপক্ষের উদাহরণ তৈরি করা
   • এটি মূল মডেলের নির্ভুলতা উন্নত করে
   • এটি স্বয়ংক্রিয়ভাবে মূল মডেল মুছে ফেলে
   • এটি মূল পুনরায় প্রশিক্ষণ প্রয়োজন
6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
   • Boundary-proximate informative samples and reduced redundancy among selected samples
   • Exact recovery of all secret model weights and a guaranteed substitute
   • Random sampling only and avoiding all substitute-model predictions
   • Higher API throughput and removal of the query budget
7. What can API rate limits do against a model-extraction attempt?
   • Prove that no substitute model can be trained
   • Remove all information from each permitted prediction
   • Make large-scale querying slower or more expensive
   • Make model outputs impossible to compare
8. What does the DynaMarks paper propose for a model-extraction defense?
   • It adds a logo to every generated answer
   • It encrypts all model weights at rest
   • It guarantees ownership of every copied production model
   • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters