أوضاع فشل الذكاء الاصطناعي

ابدأ بالسلوك المقصود وحدوده. تتطلب الفئة الخاطئة، والاقتباس المخترع، وطلب الدفع المكرر استجابات مختلفة. قم بتسجيل المشغل والنتيجة الملحوظة والمكون المتأثر والنتيجة العملية لكل فشل. التمييز بين أخطاء النموذج وأخطاء النظام. قد يفسر النموذج الطلب بشكل صحيح أثناء تنفيذ الأداة باستخدام حساب خاطئ، أو توفير مستند قديم لسياسة قديمة، أو إعادة المحاولة لتكرار عملية مكتملة. يعد التحقق الشامل أمرًا ضروريًا عندما يمكن للمخرج تغيير الحالة الخارجية. اختبار التباين العادي وسوء الاستخدام المتعمد بشكل منفصل. يمكن أن تؤدي تغييرات التنسيق واللهجات والبيانات المفقودة والمستندات الطويلة والتعليمات المتضاربة إلى كشف نقاط الضعف دون خصم. تضيف اختبارات الأمان الحالات التي يحاول فيها المهاجم إعادة توجيه السلوك أو الوصول إلى المعلومات. اختر عناصر التحكم المطابقة للسبب: عقود الإدخال، أو فحص الأدلة، أو حدود الأذونات، أو معرفات المعاملات، أو الامتناع عن التصويت، أو المراجعة البشرية. احتفظ بالحالات الفاشلة لاختبار الانحدار وتسجيل حالات عدم اليقين المتبقية. ولا ينبغي وصف عملية التخفيف التي تلتقط مثالاً واحداً بأنها تقضي على فئة كاملة من حالات الفشل.