ماڈل نکالنے اور چوری کے حملوں کا کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. ماڈل نکالنے کے حملے کے پیچھے بنیادی خیال کیا ہے؟
   • ماڈل سے استفسار کرنا اور اس کے نتائج کی نقل کرنے کے لیے متبادل کو تربیت دینا
   • وزن کی فائلوں کو براہ راست کاپی کرنے کے لیے سرور میں ہیک کرنا
   • ٹریننگ ڈیٹاسیٹ کو لیک کرنے کے لیے ملازم کو رشوت دینا
   • API کو اس وقت تک اوور لوڈ کرنا جب تک کہ یہ کریش نہ ہو اور میموری کو ڈمپ نہ کر دے۔
2. مکمل امکانی ویکٹر کی واپسی صرف ٹاپ-1 لیبل کو واپس کرنے سے نکالنے کو آسان کیوں بناتی ہے؟
   • یہ جواب کو خفیہ کرتا ہے، حملہ آور کو سست کرتا ہے۔
   • یہ فی استفسار مزید معلومات لیک کرتا ہے، اس لیے کم سوالات کی ضرورت ہے۔
   • یہ فیصلہ کی حد کو مکمل طور پر چھپاتا ہے۔
   • اس سے سرور کی لاگت بڑھ جاتی ہے لہذا حملہ آور ہار مان لیتے ہیں۔
3. کونسی دفاعی تکنیک فی سوال لیک ہونے والی معلومات کو براہ راست کم کرتی ہے؟
   • سرور میں مزید GPUs شامل کرنا
   • ماڈل کے پیرامیٹر کی تعداد میں اضافہ
   • گول یا صرف ٹاپ 1 آؤٹ پٹس واپس کرنا
   • تربیت کا ڈیٹا کھلے عام شائع کرنا
4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
   • It reconstructs every GPT-3.5 parameter exactly for under $20
   • It obtains the model’s training dataset directly
   • It extracts a complete model checkpoint from the API
   • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
5. چوری شدہ متبادل ماڈل صرف کھوئی ہوئی آمدنی سے زیادہ خطرناک کیوں ہے؟
   • یہ آف لائن وائٹ باکس حملوں کو قابل بناتا ہے جیسے کہ مخالفانہ مثالیں تیار کرنا
   • یہ اصل ماڈل کی درستگی کو بہتر بناتا ہے۔
   • یہ خود بخود اصل ماڈل کو حذف کر دیتا ہے۔
   • اصل کو دوبارہ تربیت دینے کی ضرورت ہے۔
6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
   • Boundary-proximate informative samples and reduced redundancy among selected samples
   • Exact recovery of all secret model weights and a guaranteed substitute
   • Random sampling only and avoiding all substitute-model predictions
   • Higher API throughput and removal of the query budget
7. What can API rate limits do against a model-extraction attempt?
   • Prove that no substitute model can be trained
   • Remove all information from each permitted prediction
   • Make large-scale querying slower or more expensive
   • Make model outputs impossible to compare
8. What does the DynaMarks paper propose for a model-extraction defense?
   • It adds a logo to every generated answer
   • It encrypts all model weights at rest
   • It guarantees ownership of every copied production model
   • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters