तस्मानिया ने फर्जी उद्धरण त्रुटि के बाद पैरोल निर्णयों में एआई के उपयोग की समीक्षा की

क्या हुआ?

तस्मानियाई न्याय विभाग ने एक अदालत के फैसले के बाद पैरोल निर्णयों में कृत्रिम बुद्धिमत्ता के उपयोग की समीक्षा की पुष्टि की, जिसने सुसान नील-फ्रेजर पर लगाई गई पैरोल शर्त को अमान्य कर दिया। फैसले से पता चला कि पैरोल बोर्ड ने केस कानून का हवाला देते हुए एआई-सहायता वाले दस्तावेज़ पर भरोसा किया जो मौजूद नहीं है।

तस्मानिया के न्याय विभाग ने शुक्रवार को पुष्टि की कि वह यह निर्धारित करने के लिए समीक्षा कर रहा है कि तस्मानियाई पैरोल बोर्ड द्वारा पिछले निर्णयों को सूचित करने के लिए किस हद तक कृत्रिम बुद्धिमत्ता का उपयोग किया गया होगा। यह कार्रवाई मंगलवार को तस्मानिया के सुप्रीम कोर्ट के एक फैसले के बाद हुई, जिसने प्रक्रियात्मक निष्पक्षता की कमी के कारण दोषी हत्यारे सुसान नील-फ्रेजर पर लगाई गई पैरोल की शर्त को अमान्य माना।

कानूनी चुनौती के दौरान, यह पता चला कि पैरोल बोर्ड ने एआई की सहायता से तैयार किए गए दस्तावेज़ पर भरोसा किया था। इस दस्तावेज़ में ऐसे केस कानून का हवाला दिया गया है जो अस्तित्व में नहीं है, एक घटना जिसे एआई मतिभ्रम के रूप में जाना जाता है। अदालत ने फैसला सुनाया कि वह शर्त, जिसने नील-फ्रेजर को उसकी कथित गलत सजा के बारे में मीडिया से बात करने से रोका था, उचित प्रक्रियात्मक सुरक्षा उपायों के बिना बनाई गई थी।

पैरोल बोर्ड, एक स्वतंत्र निकाय, ने कहा कि वह व्यक्तिगत मामलों पर टिप्पणी नहीं करता है और अपने एआई उपयोग की सीमा के संबंध में सवालों का जवाब नहीं दे सकता है। हालाँकि, राज्य के अटॉर्नी जनरल गाइ बार्नेट ने बोर्ड को पत्र लिखकर गलती को अस्वीकार्य बताते हुए स्पष्टीकरण की मांग की। न्याय विभाग के प्रवक्ता ने कहा कि समीक्षा अभी प्रगति पर है और कोई और विवरण नहीं दिया जा सकता है।

फैसले के जवाब में, प्रिज़नर्स लीगल सर्विस तस्मानिया के अध्यक्ष ग्रेग बार्न्स ने घोषणा की कि उनका संगठन पैरोल बोर्ड के दो साल के फैसलों का अपना ऑडिट कर रहा है। इस स्वतंत्र समीक्षा का उद्देश्य एआई के उपयोग के किसी अन्य उदाहरण या पिछले फैसलों में इसी तरह की त्रुटियों की पहचान करना है। ह्यूमन राइट्स लॉ सेंटर की सारा श्वार्ट्ज, जिन्होंने नील-फ्रेजर का प्रतिनिधित्व किया, ने स्थिति को बोर्ड की प्रक्रियाओं में गंभीर कमियों को उजागर करने वाला बताया।

स्रोत विवरण: theguardian.com ↗

यह क्यों मायने रखता है?

यह घटना महत्वपूर्ण कानूनी और प्रशासनिक प्रक्रियाओं में एआई को तैनात करने में महत्वपूर्ण जोखिमों को उजागर करती है, विशेष रूप से कानूनी मिसालों की मतिभ्रम के संबंध में। समीक्षा का उद्देश्य पिछले निर्णयों पर एआई प्रभाव के दायरे को निर्धारित करना, प्रक्रियात्मक निष्पक्षता और न्यायिक परिणामों की अखंडता के बारे में चिंताओं को संबोधित करना है।

पैरोल सुनवाई जैसे उच्च-स्तरीय कानूनी निर्णयों में एआई का उपयोग जवाबदेही और सटीकता के बारे में महत्वपूर्ण प्रश्न उठाता है। अदालत द्वारा मान्यता प्राप्त दस्तावेज़ में नकली उद्धरण की खोज दर्शाती है कि एआई उपकरण तथ्यात्मक त्रुटियां पेश कर सकते हैं जिनका मानव समीक्षकों द्वारा पता नहीं लगाया जा सकता है, जो संभावित रूप से न्याय प्रणाली में शामिल व्यक्तियों के अधिकारों से समझौता कर सकता है।

यह मामला जेनेरिक एआई को प्रशासनिक और न्यायिक वर्कफ़्लो में एकीकृत करने से जुड़े जोखिमों का एक ठोस उदाहरण के रूप में कार्य करता है। यह उन संदर्भों में एआई के उपयोग पर मजबूत सत्यापन प्रोटोकॉल और स्पष्ट दिशानिर्देशों की आवश्यकता को रेखांकित करता है जहां निर्णयों के महत्वपूर्ण कानूनी और व्यक्तिगत परिणाम होते हैं।

तस्मानियाई न्याय विभाग की समीक्षा और प्रिज़नर्स लीगल सर्विस तस्मानिया द्वारा स्वतंत्र ऑडिट संभवतः इस बात के लिए एक मिसाल कायम करेगा कि अन्य क्षेत्राधिकार कानूनी प्रक्रियाओं में एआई की निगरानी कैसे करते हैं। परिणाम सरकारी संस्थानों में एआई सुरक्षा और विश्वसनीयता पर नीतिगत चर्चा को प्रभावित कर सकता है।

आगे क्या देखना है

न्याय विभाग की समीक्षा और प्रिज़नर्स लीगल सर्विस तस्मानिया द्वारा स्वतंत्र ऑडिट का परिणाम, जो एआई के उपयोग या त्रुटियों के संकेतों के लिए पैरोल बोर्ड के दो वर्षों के निर्णयों की जांच कर रहा है।

तस्मानियाई न्याय विभाग की समीक्षा के निष्कर्ष, जो पिछले पैरोल बोर्ड के निर्णयों और पहचाने गए किसी भी प्रणालीगत मुद्दों में एआई के उपयोग की सीमा को स्पष्ट करेंगे।

प्रिज़नर्स लीगल सर्विस तस्मानिया के दो वर्षों के निर्णयों के ऑडिट के परिणाम, जो एआई से संबंधित त्रुटियों या प्रक्रियात्मक विफलताओं के अतिरिक्त उदाहरणों को प्रकट कर सकते हैं।

भविष्य के पैरोल निर्णयों और अन्य कानूनी कार्यवाहियों में एआई के उपयोग को विनियमित करने के लिए तस्मानियाई सरकार या पैरोल बोर्ड द्वारा जारी संभावित नीति परिवर्तन या नए दिशानिर्देश।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी