اختبار مرتبط بالدليل · صعب المستوى
مسابقة أمن الذكاء الاصطناعي
يختبر نمذجة التهديدات، وهجمات دورة الحياة، والترخيص، وحدود الأدوات، والتحقق من صحة المخرجات، والاختبار المحدد النطاق، والمخاطر المتبقية.
سؤال 1 من 8
يتم حاليًا تقييم روبوت الدردشة العام والوكيل الداخلي الذي يتمتع بإمكانية الوصول للكتابة. لماذا نحتاج إلى نماذج تهديد منفصلة؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- يتم حاليًا تقييم روبوت الدردشة العام والوكيل الداخلي الذي يتمتع بإمكانية الوصول للكتابة. لماذا نحتاج إلى نماذج تهديد منفصلة؟
- تتمتع جميع تطبيقات الذكاء الاصطناعي بحدود ثقة متطابقة
- تختلف أصولهم وأذوناتهم وخصومهم والعواقب المحتملة
- الوصول للكتابة يجعل الوكيل الداخلي آمنًا تلقائيًا
- لا يمكن للأنظمة العامة الكشف عن البيانات الخاصة
- ما الذي يحل محل القول الموجه "اتباع قواعد الأمان"؟
- عزل الحساب
- الإدارة السرية
- لا شيء؛ لا تزال حدود التفويض والأذونات بحاجة إلى التنفيذ في التعليمات البرمجية
- التحقق من صحة الإخراج
- ما هو المثال الذي يمثل تهديدًا في مرحلة التدريب؟
- يقوم المهاجم بتغيير صورة واحدة لوقت الاستدلال
- يقوم المستخدم بتخمين كلمة المرور
- ترفض قاعدة البيانات استعلامًا صالحًا
- المواد التدريبية المسمومة التي تغير السلوك المتعلم
- نموذج يكتب استعلام قاعدة بيانات من طلب المستخدم. ما هي الضمانة المطبقة قبل التنفيذ؟
- التحقق من صحة المخرجات التي تم إنشاؤها والتعامل معها بأمان عند حدود البرنامج
- افترض أن النموذج يفهم أذونات قاعدة البيانات
- استخدم الإخراج كأمر دون التفتيش
- اعتمد فقط على المطالبة التي تطلب SQL آمنًا
- لماذا تقييد الأداة بالأذونات التي تحتاجها فقط؟
- ويمنع كل المدخلات العدائية
- ومن ثم فإن خطأ النموذج لا يمكن أن يكشف بصمت عن القدرة الأوسع
- أنه يلغي اختبار الأمان
- ويضمن سرية جميع السجلات
- ما الذي يجب ألا يتم الخلط بينه وبين اختبار الرفض الناجح؟
- دليل على اجتياز حالة اختبار واحدة
- سلوك نموذجي ملاحظ
- إثبات أن النظام بأكمله آمن عبر المسارات والطرائق المختلفة
- مثال الانحدار مفيد
- كيف ينبغي إجراء اختبار الأمان؟
- عن طريق فحص الأنظمة الخارجية غير ذات الصلة
- إلا بعد الاختراق
- دون توثيق النطاق أو الملكية
- على مسارات الفشل التمثيلية في بيئة معتمدة
- ما الذي يجب أن يوازنه القياس الأمني عن بعد؟
- قيمة تشخيصية كافية مع تقليل مجموعة المحتوى الحساس إلى الحد الأدنى
- الحد الأقصى للاحتفاظ الفوري بغض النظر عن الغرض
- لا توجد بيانات الحدث على الإطلاق
- تسجيل الاستجابة الكاملة لكل مستخدم إلى أجل غير مسمى