أمثلة الخصومة والمتانة

أمثلة الخصم هي مدخلات مُصمَّمة لتسبب في إنتاج النموذج نتيجة غير صحيحة أو غير مرغوبة وفق نموذج تهديد محدد.

الدليل يعرّف الأمثلة الخصمية بالنسبة لهجوم ونموذج تهديد؛ بعض الإعدادات تستخدم تعديلات محدودة، لكن التغييرات لا تحتاج دائمًا أن تكون صغيرة أو غير ملحوظة.

يعرف مهاجمو الصندوق الأبيض النموذج ويمكنهم استخدام تدرجاته؛ يرى مهاجمو الصندوق الأسود المدخلات والمخرجات فقط.

يمكن للتدريب الخصمي تحسين المقاومة ضد الهجمات المُقَيَّمة، لكن المتانة تعتمد على نموذج التهديد ولا تغطي كل هجوم محتمل.

ونظرًا لأن الأمثلة المتعارضة تنتقل عبر النماذج، يمكن للمهاجم صياغتها على نموذج بديل ومهاجمة هدف لا يمكنه فحصه بنجاح.

حقن المطالبات يغيّر التعليمات أو المحتوى غير الموثوق به في أنظمة نماذج اللغة؛ هو مصدر قلق أمني بآلية مختلفة عن تعديل البكسلات الصغيرة.