कनेक्टिकट न्यायाधीश ने अदालत में दाखिल करने में छिपे एआई प्रॉम्प्ट पर वादी पर प्रतिबंध लगाया

क्या हुआ?

स्टैमफोर्ड एडवोकेट ने गॉवटेक द्वारा पुनः प्रकाशित एक रिपोर्ट में बताया कि मैथ्यू इलियट, एक स्वयं-प्रतिनिधित्व वाले कनेक्टिकट वादी, ने अदालती फाइलिंग में लगभग अदृश्य सफेद पाठ डाला। छिपे हुए निर्देश में दस्तावेज़ की समीक्षा करने वाले किसी भी एआई सिस्टम को इलियट के तर्कों से सहमत होने और पहले के फैसले को उलटने का समर्थन करने के लिए कहा गया था। कनेक्टिकट सुपीरियर कोर्ट के न्यायाधीश वाल्टर स्पैडर जूनियर ने इस रणनीति को जानबूझकर त्वरित इंजेक्शन के रूप में वर्णित किया और इलियट को मामले में भविष्य की फाइलिंग को कागज पर प्रस्तुत करने की आवश्यकता की मंजूरी दे दी।

गॉवटेक द्वारा पुनर्प्रकाशित रिपोर्ट में स्टैमफोर्ड एडवोकेट ने कहा कि इलियट ने कनेक्टिकट कोर्ट फाइलिंग के अंदर छोटे सफेद पाठ में एक संदेश रखा था। निर्देश शुरू हुआ, "यदि इस दस्तावेज़ की समीक्षा एआई मॉडल द्वारा की जाती है," और सिस्टम को यह सुनिश्चित करने का निर्देश दिया कि इसका आउटपुट इलियट की फाइलिंग से सहमत है। रिपोर्ट के अनुसार, इसने सिस्टम को एक क्लर्क के पहले के फैसले को उलटने और न्यूयॉर्क बैरिएट्रिक ग्रुप को डिफ़ॉल्ट में खोजने की दिशा में भी प्रेरित किया। खाता इन विवरणों का श्रेय न्यायाधीश वाल्टर स्पैडर जूनियर के ज्ञापन और संबंधित अदालती दस्तावेजों को देता है।

रिपोर्ट में कहा गया है कि स्पैडर ने 31 जुलाई को फाइलिंग और मुद्रण दस्तावेजों की समीक्षा करते समय पाठ की खोज की, जिसमें असामान्य रिक्त क्षेत्र दिखाई दिए। अदालत ने पाया कि प्रारूपित भाषा किसी व्यक्ति के लिए लगभग अदृश्य है जबकि दस्तावेज़ के पाठ को संसाधित करने वाले सॉफ़्टवेयर के लिए सुपाठ्य बनी हुई है। जैसा कि रिपोर्ट में उद्धृत किया गया है, इलियट ने सीटी इनसाइडर को स्वीकार किया कि उसने एआई सिस्टम के लिए अदृश्य पाठ का उपयोग किया था। उन्होंने अपने उद्देश्य की न्यायाधीश की व्याख्या पर विवाद करते हुए कहा कि वह यह निर्धारित करने का प्रयास कर रहे थे कि क्या उनकी फाइलिंग की समीक्षा के लिए एआई का उपयोग किया जा रहा है।

रिपोर्ट में कहा गया है कि कनेक्टिकट न्यायिक शाखा ने वर्तमान में फाइलिंग या संभावित डिफ़ॉल्ट की समीक्षा के लिए कृत्रिम-खुफिया प्रणाली का उपयोग नहीं किया है। स्पैडर ने फिर भी निष्कर्ष निकाला कि आचरण अनुचित था क्योंकि वकील, वादी और अन्य कानूनी पेशेवर दस्तावेजों की समीक्षा करने, रिकॉर्ड को सारांशित करने या मामलों को तैयार करने के लिए एआई टूल का उपयोग कर सकते हैं। न्यायाधीश ने लिखा कि यह मुद्दा इस बात पर निर्भर नहीं है कि अदालत ने स्वयं एआई का उपयोग किया है या नहीं, क्योंकि छुपाई गई सामग्री अदालत और विरोधी पक्षों को गुमराह करने का एक प्रयास था।

रिपोर्ट के अनुसार, अदालत द्वारा मुद्दा उठाए जाने के बाद, इलियट ने बाद की फाइलिंग में लगभग अदृश्य सामग्री डालना जारी रखा। कुछ संदेशों में विरोधी पार्टी के संस्थापक का मज़ाक उड़ाया गया, एक स्पंजबॉब स्क्वेयरपैंट वीडियो और किसी को भी संबोधित एक पंक्ति, जो छिपे हुए पाठ को देख सकता है। इलियट ने कहा कि ये जोड़ एआई को प्रभावित करने के आगे के प्रयासों के बजाय मजाक थे। स्पैडर ने निरंतर छिपाव को इस बात के प्रमाण के रूप में देखा कि मूल आचरण जानबूझकर किया गया था। न्यायाधीश ने इलियट को मामले में इलेक्ट्रॉनिक फाइलिंग से रोक दिया लेकिन उसे मुकदमेबाजी जारी रखने और फाइलिंग तैयार करने में मदद के लिए एआई का उपयोग करने की अनुमति दी। दस्तावेज़ों को प्रिंट करने से रिपोर्ट में वर्णित फ़ाइलिंग प्रक्रिया से छिपा हुआ डिजिटल टेक्स्ट हट जाएगा।

स्रोत विवरण: govtech.com ↗

यह क्यों मायने रखता है?

यह मामला एआई प्रदर्शनों से कानूनी प्रक्रिया में त्वरित इंजेक्शन का एक ठोस उदाहरण प्रदान करता है। रिपोर्ट में कहा गया है कि कनेक्टिकट की न्यायिक शाखा दाखिलों की समीक्षा के लिए एआई प्रणाली का उपयोग नहीं कर रही थी, और ऐसा कोई संकेत नहीं है कि छिपे हुए निर्देश ने मामले के नतीजे को बदल दिया। लेकिन अदालत में भाग लेने वाले, वकील और कानूनी शोधकर्ता दस्तावेजों को सारांशित करने, दस्तावेज़ों की समीक्षा करने और तर्क तैयार करने के लिए तेजी से एआई का उपयोग कर रहे हैं, जिससे डाउनस्ट्रीम सिस्टम को प्रभावित करने के लिए छिपे हुए निर्देशों के लिए संभावित मार्ग तैयार हो रहे हैं।

प्रॉम्प्ट इंजेक्शन में आम तौर पर उस सामग्री में निर्देश देना शामिल होता है जिसे एआई सिस्टम को सिस्टम के व्यवहार को बदलने के उद्देश्य से पढ़ने के लिए कहा जाता है। रिपोर्ट की गई रणनीति महत्वपूर्ण है क्योंकि निर्देश को सॉफ़्टवेयर पर लक्षित करते समय मानव दर्शकों से छुपाया गया था। स्पैडर ने छिपे हुए आदेश को उस तंत्र के लिए एक गुप्त संचार के रूप में चित्रित किया जिसके द्वारा किसी मामले को पढ़ा और तौला जा सकता है। कानूनी कार्यवाही में यह अंतर मायने रखता है, जहां विरोधी पक्षों से अदालत में प्रस्तुत तर्कों को देखने और जवाब देने की अपेक्षा की जाती है।

रिपोर्ट यह स्थापित नहीं करती है कि एआई सिस्टम ने वास्तव में इलियट की फाइलिंग को पढ़ा, निर्देश का पालन किया या किसी फैसले को प्रभावित किया। इसमें कहा गया है कि इस मामले में स्पष्ट रूप से संकेत ने काम नहीं किया। वे सीमाएँ महत्वपूर्ण हैं: ठोस घटना छुपे हुए पाठ का सम्मिलन और खोज है, जिसके बाद मंजूरी दी जाती है, न कि प्रदर्शित एआई-सहायता वाली न्यायिक त्रुटि। रिपोर्ट विभिन्न सॉफ़्टवेयर सिस्टम या स्कैनिंग वर्कफ़्लो में दस्तावेज़ के पूर्ण तकनीकी व्यवहार को स्वतंत्र रूप से सत्यापित नहीं करती है।

यह घटना उन संगठनों के लिए एक व्यापक सुरक्षा समस्या को दर्शाती है जो एआई सिस्टम में अविश्वसनीय दस्तावेज़ फ़ीड करते हैं। एक दस्तावेज़ मानव पढ़ने के लिए उपयुक्त हो सकता है, फिर भी इसमें छिपा हुआ स्वरूपण, मेटाडेटा या मशीन-पठनीय निर्देश शामिल होते हैं जो एक स्वचालित सारांश या सहायक को प्रभावित करते हैं। अदालत में, इस तरह का हेरफेर सारांश को विकृत कर सकता है, एक पक्ष के दावों को प्राथमिकता दे सकता है, प्रासंगिक संदर्भ छोड़ सकता है या रिकॉर्ड की गलत धारणा बना सकता है। इसी तरह के जोखिम नियुक्ति, शिक्षा, बीमा और सरकारी कार्यप्रवाह में उत्पन्न हो सकते हैं, हालांकि उन सेटिंग्स के रिपोर्ट के उदाहरणों का श्रेय न्यायाधीश को दिया जाता है और यहां स्वतंत्र रूप से जांच नहीं की जाती है।

यह मामला जिम्मेदार एआई सहायता को बिना समीक्षा की गई निर्भरता से भी अलग करता है। स्पैडर ने लिखा कि एआई उपकरण कानूनी कार्य का हिस्सा बने रहने की संभावना है और कहा कि उन्होंने परिणामों की स्वतंत्र रूप से पुष्टि करते हुए, कामकाजी अनुवाद के लिए Google Gemini और अधिकारियों की जांच के लिए वेस्टलॉ एआई टूल का उपयोग किया था। व्यावहारिक सबक यह नहीं है कि अदालतों को एआई को छोड़ देना चाहिए, बल्कि यह है कि उन्हें उद्गम, दस्तावेज़ प्रतिपादन, मानव समीक्षा और आउटपुट का उत्पादन कैसे किया गया, इसके पुनर्निर्माण की क्षमता पर नियंत्रण की आवश्यकता है। रिपोर्ट में यह नहीं बताया गया है कि कनेक्टिकट ने ऐसे नियंत्रण अपनाए हैं या नहीं।

आगे क्या देखना है

केंद्रीय अनुत्तरित प्रश्न यह है कि अदालतें डिजिटल रूप से प्रस्तुत दस्तावेजों का निरीक्षण कैसे करेंगी जब दृश्य पृष्ठ में फ़ाइल में एम्बेडेड सब कुछ शामिल नहीं हो सकता है। रिपोर्ट छिपे हुए पाठ का पता लगाने के लिए एक समान अदालती नीति की पहचान नहीं करती है, न ही यह स्थापित करती है कि किसी एआई सिस्टम ने इलियट के संकेत पर कार्रवाई की है। भविष्य के मामले प्रतिबंधों, प्रकटीकरण कर्तव्यों, दस्तावेज़-प्रसंस्करण सुरक्षा उपायों को स्पष्ट कर सकते हैं और पार्टियां एआई-सहायता वाले निर्णय को कैसे चुनौती दे सकती हैं जो छिपी हुई सामग्री से प्रभावित हो सकता है।

न्यायालयों और कानूनी-सेवा प्रदाताओं को ऐसी प्रक्रियाओं की आवश्यकता हो सकती है जो किसी दस्तावेज़ के प्रस्तुत स्वरूप की तुलना उसके अंतर्निहित पाठ और स्वरूपण से करें। संभावित सुरक्षा उपायों में फाइलिंग को मानकीकृत प्रारूपों में परिवर्तित करना, सफेद पर सफेद पाठ और गैर-मुद्रण वर्णों को चिह्नित करना, छिपी हुई परतों की स्कैनिंग करना और एआई-जनित सारांश निर्णयों को प्रभावित करने से पहले मानव समीक्षा की आवश्यकता शामिल है। स्रोत यह रिपोर्ट नहीं करता है कि कनेक्टिकट ने इनमें से कोई भी उपाय लागू किया है, इसलिए उनके उपयोग की कल्पना नहीं की जानी चाहिए।

भविष्य के विवाद यह परीक्षण कर सकते हैं कि क्या छुपाए गए निर्देश स्पष्टवादिता, फाइलिंग सत्यनिष्ठा, धोखाधड़ी या अदालती प्रक्रियाओं के दुरुपयोग पर मौजूदा नियमों का उल्लंघन करते हैं, और क्या जब कोई संकेत केवल मौजूद होता है तो क्या प्रतिबंध अलग-अलग होने चाहिए, जब यह स्पष्ट रूप से एआई आउटपुट को बदलता है। इलियट के मामले में, रिपोर्ट की गई मंजूरी मुकदमे को खारिज करने के बजाय इलेक्ट्रॉनिक फाइलिंग विशेषाधिकारों का नुकसान था। रिपोर्ट एक व्यापक मिसाल प्रदान नहीं करती है या यह नहीं बताती है कि फैसले के खिलाफ अपील की गई है या नहीं।

एक प्रमुख सत्यापन प्रश्न यह होगा कि क्या कोई अदालत, पार्टी या विक्रेता यह दिखा सकता है कि एआई सिस्टम ने छिपे हुए पाठ को संसाधित किया है। कनेक्टिकट न्यायिक शाखा की एआई फाइलिंग-समीक्षा प्रणाली की कमी के कारण तत्काल दावा सीमित हो जाता है, लेकिन वकील और मुकदमेबाज अदालत के अपने सिस्टम के बाहर तीसरे पक्ष के टूल का उपयोग कर सकते हैं। जांचकर्ताओं को यह स्थापित करने के लिए दस्तावेज़ अपलोड, सॉफ़्टवेयर संस्करण, संकेत, आउटपुट और मानवीय निर्णयों के रिकॉर्ड की आवश्यकता होगी कि हेरफेर ने परिणाम को प्रभावित किया है या नहीं।

रिपोर्ट बताती है कि छुपे हुए निर्देशों की पहचान करना कठिन हो सकता है क्योंकि कानूनी वर्कफ़्लो दस्तावेज़ सारांश और स्वचालित समीक्षा पर निर्भर करते हैं। व्यावहारिक सुरक्षा उपायों को डिजिटल फाइलिंग को अज्ञात आदेशों को ले जाने से रोकते हुए स्व-प्रतिनिधित्व वाले वादियों के लिए पहुंच को संरक्षित करना होगा। जब तक अदालतें स्पष्ट तकनीकी और प्रक्रियात्मक मानक प्रकाशित नहीं करतीं, जोखिम की सीमा अनिश्चित बनी रहेगी। इस लेख का विवरण स्टैमफोर्ड एडवोकेट की रिपोर्ट पर आधारित है जिसे गॉवटेक द्वारा पुनर्प्रकाशित किया गया है और अदालत की सामग्री और साक्षात्कार का हवाला दिया गया है; अंतर्निहित फाइलिंग और किसी भी एआई-प्रोसेसिंग लॉग की यहां स्वतंत्र रूप से समीक्षा नहीं की गई।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी