اختبار مرتبط بالدليل · متوسط المستوى
اختبار استخراج النماذج وسرقة الهجمات
افهم كيف يقوم المهاجمون بتقليد نماذج الصندوق الأسود من خلال الاستعلامات، وما تكشفه مخرجات واجهة برمجة التطبيقات (API)، وكيف يمكن لمقدمي الخدمات اكتشاف الاستخراج أو ردعه.
سؤال 1 من 8
ما هي الفكرة الأساسية وراء هجوم استخراج النموذج؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هي الفكرة الأساسية وراء هجوم استخراج النموذج؟
- الاستعلام عن النموذج وتدريب البديل لتقليد مخرجاته
- اختراق السيرفر لنسخ ملفات الوزن مباشرة
- رشوة أحد الموظفين لتسريب مجموعة بيانات التدريب
- التحميل الزائد على واجهة برمجة التطبيقات (API) حتى تتعطل وتفرغ الذاكرة
- لماذا تجعل إرجاع متجهات الاحتمالية الكاملة عملية الاستخراج أسهل من إرجاع علامة أعلى 1 فقط؟
- فهو يقوم بتشفير الاستجابة، مما يؤدي إلى إبطاء المهاجم
- فهو يسرب المزيد من المعلومات لكل استعلام، لذلك هناك حاجة إلى عدد أقل من الاستعلامات
- إنه يخفي حدود القرار بالكامل
- إنه يزيد من تكلفة الخادم حتى يستسلم المهاجمون
- ما هي التقنية الدفاعية التي تقلل بشكل مباشر المعلومات المتسربة لكل استعلام؟
- إضافة المزيد من وحدات معالجة الرسومات إلى الخادم
- زيادة عدد معلمات النموذج
- إرجاع المخرجات الدائرية أو أعلى 1 فقط
- نشر بيانات التدريب بشكل علني
- ماذا جاء في ورقة استخراج نموذج لغة الإنتاج لعام 2024 حول GPT-3.5 Turbo؟
- It reconstructs every GPT-3.5 parameter exactly for under $20
- It obtains the model’s training dataset directly
- It extracts a complete model checkpoint from the API
- It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
- لماذا يعتبر النموذج البديل المسروق خطيرًا بما يتجاوز مجرد خسارة الإيرادات؟
- فهو يتيح هجمات الصندوق الأبيض دون الاتصال بالإنترنت مثل صياغة الأمثلة العدائية
- يعمل على تحسين دقة النموذج الأصلي
- يقوم تلقائيًا بحذف النموذج الأصلي
- مطلوب إعادة تدريب الأصلي
- In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
- Boundary-proximate informative samples and reduced redundancy among selected samples
- Exact recovery of all secret model weights and a guaranteed substitute
- Random sampling only and avoiding all substitute-model predictions
- Higher API throughput and removal of the query budget
- What can API rate limits do against a model-extraction attempt?
- Prove that no substitute model can be trained
- Remove all information from each permitted prediction
- Make large-scale querying slower or more expensive
- Make model outputs impossible to compare
- What does the DynaMarks paper propose for a model-extraction defense?
- It adds a logo to every generated answer
- It encrypts all model weights at rest
- It guarantees ownership of every copied production model
- It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters