اختبار مرتبط بالدليل · متوسط المستوى
وكيل الدرابزين مسابقة
تقييم مرشحات الإخراج والإدخال، والأدوات ذات الامتيازات الأقل، والفريق الأحمر، ومراقبة NIST، وحدود ضوابط السلامة.
سؤال 1 من 8
ما هو الغرض الرئيسي من حواجز الحماية الوكيلة؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هو الغرض الرئيسي من حواجز الحماية الوكيلة؟
- لتقييد ما يمكن للوكيل فعله أو قوله أو الوصول إليه من أجل السلامة والامتثال
- لجعل الوكلاء يستجيبون بشكل أبطأ
- لزيادة مفردات الوكيل
- لاستبدال النموذج الأساسي بالكامل
- ما الذي يفعله عادةً "حاجز حماية الإخراج"؟
- شاشات مطالبات المستخدم الواردة فقط
- التحقق من استجابات الوكيل للمحتوى السام أو الخاطئ أو غير المتوافق قبل التسليم
- يسرع تدريب النموذج
- يمنح الوكيل المزيد من الوصول إلى الأداة
- كيف ينطبق "مبدأ الامتياز الأقل" على حواجز الحماية العملية؟
- يتم منح الوكيل كل إذن ممكن
- ويجب على الوكيل أن يطلب الإذن دون مقابل
- يحصل الوكيل فقط على الأدوات والمفاتيح والحدود التي يحتاجها ذات نطاق ضيق
- يتم منح الوكيل حق الوصول الإداري للراحة
- ما هو نموذج "القاضي" أو نموذج التحقق المستخدم في حواجز الحماية؟
- لتوليد الإجابات الرئيسية للوكيل
- لتخزين كلمات مرور المستخدم
- لترجمة اللغات فقط
- لتصنيف مخرجات الوكيل أو التحقق منها للتأكد من سلامتها أو دقتها
- ما أهمية اختبار حواجز الحماية ضد المدخلات العدائية؟
- نظرًا لأن المهاجمين يحاولون الهروب من السجن، فيجب فحص حواجز الحماية بدلاً من الثقة العمياء
- يجعل الوكيل أبطأ عن قصد
- يلغي الحاجة إلى أي قواعد
- إنه يضمن أن النموذج لن يرتكب أي أخطاء
- ما هو المثال الذي يوضح حاجز حماية فعال؟
- وكيل شراء بدون حدود للإنفاق
- وكيل شراء بحد أقصى 100 دولار لكل معاملة يتم فرضه خارج النموذج
- وكيل يمكنه تشغيل أي أمر يريده
- وكيل يتجاهل كافة الأذونات
- What does NIST’s Generative AI Profile say content filters can do?
- Guarantee that all false or harmful content is removed
- Verify that every generated answer is factually correct
- Use rule-based or machine-learning methods to flag problematic inputs and outputs
- Replace all post-deployment monitoring
- What can a NIST post-deployment monitoring plan include for generative AI?
- A guarantee that all outputs will be safe
- A replacement for pre-deployment testing
- An instruction to ignore user-reported issues
- Mechanisms to capture user input and support appeal, override, incident response, and updates