ماذا حدث
أكدت وزارة العدل في تسمانيا مراجعة استخدام الذكاء الاصطناعي في قرارات الإفراج المشروط بعد حكم قضائي أبطل شرط الإفراج المشروط المفروض على سوزان نيل فريزر. وكشف الحكم أن مجلس الإفراج المشروط اعتمد على وثيقة مدعومة بالذكاء الاصطناعي تشير إلى سوابق قضائية غير موجودة.
أكدت وزارة العدل في تسمانيا يوم الجمعة أنها تجري مراجعة لتحديد مدى احتمال استخدام الذكاء الاصطناعي لإبلاغ القرارات السابقة لمجلس الإفراج المشروط في تسمانيا. يأتي هذا الإجراء في أعقاب حكم أصدرته المحكمة العليا في تسمانيا يوم الثلاثاء، والذي اعتبر شرط الإفراج المشروط المفروض على القاتلة المدان سوزان نيل فريزر باطلاً بسبب الافتقار إلى العدالة الإجرائية.
وأثناء الطعن القانوني، تم الكشف عن أن مجلس الإفراج المشروط اعتمد على وثيقة تم إعدادها بمساعدة منظمة العفو الدولية. واستشهدت هذه الوثيقة بسوابق قضائية غير موجودة، وهي ظاهرة تعرف باسم هلوسة الذكاء الاصطناعي. وقضت المحكمة بأن الشرط، الذي منع نيل فريزر من التحدث إلى وسائل الإعلام حول إدانتها الخاطئة المزعومة، تم دون ضمانات إجرائية مناسبة.
صرح مجلس الإفراج المشروط، وهو هيئة مستقلة، أنه لا يعلق على المسائل الفردية ولا يمكنه الإجابة على الأسئلة المتعلقة بمدى استخدامه للذكاء الاصطناعي. ومع ذلك، كتب المدعي العام للولاية، جاي بارنيت، إلى المجلس يطالبه بتفسير، ووصف الخطأ بأنه غير مقبول. وأشار المتحدث باسم وزارة العدل إلى أن المراجعة جارية حاليًا ولا يمكن تقديم مزيد من التفاصيل.
ردًا على الحكم، أعلن جريج بارنز، رئيس الخدمة القانونية للسجناء في تسمانيا، أن منظمته تجري تدقيقًا خاصًا بها لقرارات مجلس الإفراج المشروط لمدة عامين. تهدف هذه المراجعة المستقلة إلى تحديد أي حالات أخرى لاستخدام الذكاء الاصطناعي أو أخطاء مماثلة في الأحكام السابقة. ووصفت سارة شوارتز، من مركز قانون حقوق الإنسان، التي مثلت نيل فريزر، الوضع بأنه يكشف عن أوجه قصور خطيرة في عمليات المجلس.
تفاصيل المصدر: theguardian.com ↗
لماذا يهم
تسلط هذه الحادثة الضوء على مخاطر كبيرة في نشر الذكاء الاصطناعي في العمليات القانونية والإدارية الحاسمة، وخاصة فيما يتعلق بالهلوسة بالسوابق القانونية. وتهدف المراجعة إلى تحديد نطاق تأثير الذكاء الاصطناعي على القرارات السابقة، ومعالجة المخاوف المتعلقة بالعدالة الإجرائية ونزاهة النتائج القضائية.
إن استخدام الذكاء الاصطناعي في القرارات القانونية عالية المخاطر، مثل جلسات الاستماع للإفراج المشروط، يثير أسئلة بالغة الأهمية حول المساءلة والدقة. يوضح اكتشاف اقتباس مزيف في وثيقة معترف بها من قبل المحكمة أن أدوات الذكاء الاصطناعي يمكن أن تقدم أخطاء واقعية قد لا يكتشفها المراجعون البشريون، مما قد يعرض حقوق الأفراد المشاركين في نظام العدالة للخطر.
تعد هذه الحالة بمثابة مثال ملموس على المخاطر المرتبطة بدمج الذكاء الاصطناعي التوليدي في سير العمل الإداري والقضائي. ويؤكد على الحاجة إلى بروتوكولات تحقق قوية ومبادئ توجيهية واضحة بشأن استخدام الذكاء الاصطناعي في السياقات التي يكون فيها للقرارات عواقب قانونية وشخصية كبيرة.
من المرجح أن تشكل المراجعة التي أجرتها وزارة العدل في تسمانيا والمراجعة المستقلة التي تجريها الخدمة القانونية للسجناء في تسمانيا سابقة لكيفية تعامل الولايات القضائية الأخرى مع الرقابة على الذكاء الاصطناعي في العمليات القانونية. ويمكن أن تؤثر النتيجة على مناقشات السياسات المتعلقة بسلامة وموثوقية الذكاء الاصطناعي في المؤسسات الحكومية.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
ماذا تشاهد بعد ذلك
نتيجة مراجعة وزارة العدل والمراجعة المستقلة التي تجريها الخدمة القانونية للسجناء في تسمانيا، والتي تدرس عامين من قرارات مجلس الإفراج المشروط بحثًا عن علامات استخدام الذكاء الاصطناعي أو الأخطاء.
نتائج مراجعة وزارة العدل في تسمانيا، والتي ستوضح مدى استخدام الذكاء الاصطناعي في قرارات مجلس الإفراج المشروط السابقة وأي مشكلات نظامية تم تحديدها.
نتائج المراجعة التي أجرتها الخدمة القانونية للسجناء في تسمانيا لمدة عامين من القرارات، والتي قد تكشف عن حالات إضافية من الأخطاء المتعلقة بالذكاء الاصطناعي أو الإخفاقات الإجرائية.
تغييرات محتملة في السياسة أو إرشادات جديدة صادرة عن حكومة تسمانيا أو مجلس الإفراج المشروط لتنظيم استخدام الذكاء الاصطناعي في قرارات الإفراج المشروط المستقبلية والإجراءات القانونية الأخرى.