وكلاء الإنسان في الحلقة

إن الإشراف البشري هو اختيار لتصميم النظام، وليس ضمانًا للدقة. توصي NIST AI RMF بتحديد الأدوار والمسؤوليات لتكوينات الذكاء الاصطناعي البشري. تحدد المادة 14 من قانون الاتحاد الأوروبي للذكاء الاصطناعي متطلبات الرقابة لأنظمة الذكاء الاصطناعي عالية المخاطر؛ ولا يتطلب نقطة تفتيش بشرية لكل استخدام للذكاء الاصطناعي. يحتاج المراجعون البشريون إلى معلومات قابلة للاستخدام، والوقت، والسلطة، وطريقة للتدخل. تتناول المادة 14 من قانون الاتحاد الأوروبي للذكاء الاصطناعي الرقابة البشرية على أنظمة الذكاء الاصطناعي عالية المخاطر ضمن نطاقه. وينبغي أن تكون تدابير الرقابة متناسبة مع المخاطر والاستقلالية والسياق، وتهدف إلى منع أو تقليل المخاطر التي تهدد الصحة أو السلامة أو الحقوق الأساسية. وينبغي عليهم مساعدة المشرفين على مراقبة العملية، والتعرف على تحيز الأتمتة، وتفسير المخرجات، وتجاهلها أو تجاوزها، ومقاطعة النظام عندما يكون ذلك مناسبًا. يمكن لعتبة الثقة توجيه حالات الثقة المنخفضة إلى المراجع، بينما قد تقوم نقاط التفتيش بتعليق الحالة المعلقة والاحتفاظ بها حتى المراجعة ثم استئنافها. قد تكون تسميات التعلم النشط بمثابة معلومات عن التحديثات اللاحقة، ولكن التحسين يعتمد على البيانات وإعادة التدريب.