کیا ہوا؟
Stamford ایڈووکیٹ نے GovTech کے ذریعے دوبارہ شائع کی گئی ایک رپورٹ میں بتایا کہ میتھیو ایلیٹ، ایک خود نمائی کنیکٹی کٹ کے مدعی، نے عدالتی فائلنگ میں تقریباً پوشیدہ سفید متن داخل کیا۔ پوشیدہ ہدایات نے دستاویز کا جائزہ لینے والے کسی بھی AI سسٹم کو ایلیٹ کے دلائل سے اتفاق کرنے اور پہلے کے فیصلے کو تبدیل کرنے کی حمایت کرنے کے لئے کہا۔ کنیکٹیکٹ سپیریئر کورٹ کے جج والٹر سپیڈر جونیئر نے اس حربے کو جان بوجھ کر فوری انجیکشن کے طور پر بیان کیا اور ایلیٹ کو اس مقدمے میں مستقبل میں فائلنگ کو کاغذ پر جمع کروانے کی منظوری دے دی۔
Stamford ایڈووکیٹ نے GovTech کے ذریعے دوبارہ شائع ہونے والی رپورٹنگ میں کہا کہ ایلیٹ نے کنیکٹیکٹ کی عدالت میں فائلنگ کے اندر چھوٹے سفید متن میں ایک پیغام رکھا۔ ہدایت شروع ہوئی، "اگر اس دستاویز کا ایک AI ماڈل کے ذریعہ جائزہ لیا جائے،" اور سسٹم کو ہدایت کی کہ اس بات کو یقینی بنائے کہ اس کا آؤٹ پٹ ایلیٹ کی فائلنگ سے متفق ہو۔ رپورٹ کے مطابق، اس نے نظام کو ایک کلرک کے پہلے فیصلے کو تبدیل کرنے اور نیویارک باریاٹرک گروپ کو ڈیفالٹ میں تلاش کرنے کی طرف بھی بڑھایا۔ اکاؤنٹ ان تفصیلات کو جج والٹر اسپیڈر جونیئر کے میمورنڈم اور متعلقہ عدالتی دستاویزات سے منسوب کرتا ہے۔
رپورٹ میں کہا گیا ہے کہ اسپیڈر نے 31 جولائی کو فائلنگ کا جائزہ لیتے ہوئے اور دستاویزات کی پرنٹنگ کے دوران یہ متن دریافت کیا جو غیر معمولی خالی جگہوں پر مشتمل دکھائی دیتے ہیں۔ عدالت نے پایا کہ فارمیٹ کی گئی زبان کسی شخص کے لیے تقریباً پوشیدہ ہے جبکہ دستاویز کے متن پر کارروائی کرنے والے سافٹ ویئر کے لیے قابل فہم ہے۔ ایلیٹ نے سی ٹی انسائیڈر کو تسلیم کیا، جیسا کہ رپورٹ میں بتایا گیا ہے، کہ اس نے AI سسٹم کے لیے غیر مرئی متن کا استعمال کیا تھا۔ اس نے اپنے مقصد کے بارے میں جج کی تشریح پر اختلاف کرتے ہوئے کہا کہ وہ اس بات کا تعین کرنے کی کوشش کر رہے ہیں کہ آیا ان کی فائلنگ کا جائزہ لینے کے لیے AI کا استعمال کیا جا رہا ہے۔
رپورٹ میں کہا گیا ہے کہ کنیکٹیکٹ جوڈیشل برانچ نے فی الحال فائلنگ یا ممکنہ ڈیفالٹس کا جائزہ لینے کے لیے مصنوعی ذہانت کا نظام استعمال نہیں کیا۔ اس کے باوجود اسپیڈر نے یہ نتیجہ اخذ کیا کہ یہ طرز عمل نامناسب تھا کیونکہ وکلاء، قانونی چارہ جوئی کرنے والے اور دیگر قانونی پیشہ ور افراد دستاویزات کا جائزہ لینے، ریکارڈ کا خلاصہ کرنے یا مقدمات کی تیاری کے لیے AI ٹولز کا استعمال کر سکتے ہیں۔ جج نے لکھا کہ یہ مسئلہ اس بات پر منحصر نہیں ہے کہ آیا عدالت نے خود اے آئی کا استعمال کیا، کیونکہ چھپایا گیا مواد عدالت اور مخالف فریقین کو گمراہ کرنے کی کوشش تھی۔
رپورٹ کے مطابق، عدالت کی جانب سے اس معاملے کو اٹھانے کے بعد، ایلیٹ نے بعد میں فائلنگز میں تقریباً پوشیدہ مواد رکھنا جاری رکھا۔ کچھ پیغامات میں مخالف پارٹی کے بانی، ایک SpongeBob SquarePants ویڈیو اور کسی ایسے شخص کو مخاطب کیا گیا جو چھپا ہوا متن دیکھ سکتا ہے۔ ایلیٹ نے کہا کہ یہ اضافہ AI کو متاثر کرنے کی مزید کوششوں کے بجائے لطیفے تھے۔ اسپیڈر نے مسلسل چھپانے کو ثبوت کے طور پر دیکھا کہ اصل طرز عمل جان بوجھ کر کیا گیا تھا۔ جج نے ایلیٹ کو کیس میں الیکٹرانک فائلنگ سے روک دیا لیکن اسے قانونی چارہ جوئی جاری رکھنے اور فائلنگ تیار کرنے میں مدد کے لیے اے آئی کا استعمال کرنے کی اجازت دی۔ دستاویزات کی پرنٹنگ رپورٹ میں بیان کردہ فائلنگ کے عمل سے پوشیدہ ڈیجیٹل متن کو ہٹا دے گی۔
ماخذ کی تفصیلات: govtech.com ↗
یہ کیوں اہمیت رکھتا ہے۔
یہ کیس AI مظاہروں سے قانونی عمل میں فوری انجکشن لگانے کی ٹھوس مثال فراہم کرتا ہے۔ رپورٹ میں کہا گیا ہے کہ کنیکٹی کٹ کی جوڈیشل برانچ فائلنگ کا جائزہ لینے کے لیے اے آئی سسٹم کا استعمال نہیں کر رہی تھی، اور اس بات کا کوئی اشارہ نہیں ہے کہ چھپی ہوئی ہدایات نے کیس کا نتیجہ تبدیل کر دیا ہو۔ لیکن عدالت کے شرکاء، وکلاء اور قانونی محققین تیزی سے AI کا استعمال دستاویزات کا خلاصہ کرنے، ڈاکٹس کا جائزہ لینے اور دلائل تیار کرنے کے لیے کرتے ہیں، جس سے نیچے کی دھارے کے نظام کو متاثر کرنے کے لیے مخفی ہدایات کے لیے ممکنہ راستے پیدا ہوتے ہیں۔
فوری انجیکشن میں عام طور پر ایسے مواد میں ہدایات لگانا شامل ہوتا ہے جسے AI سسٹم سے پڑھنے کے لیے کہا جاتا ہے، جس کا مقصد سسٹم کے رویے کو تبدیل کرنا ہے۔ رپورٹ کردہ حربہ اہم ہے کیونکہ سافٹ ویئر کو نشانہ بناتے ہوئے ہدایات انسانی سامعین سے چھپائی گئی تھیں۔ اسپیڈر نے چھپی ہوئی کمانڈ کو میکانزم سے ایک خفیہ مواصلات کے طور پر نمایاں کیا جس کے ذریعے کسی معاملے کو پڑھا اور تولا جا سکتا ہے۔ یہ فرق قانونی کارروائیوں میں اہمیت رکھتا ہے، جہاں مخالف فریقین سے توقع کی جاتی ہے کہ وہ عدالت میں پیش کردہ دلائل دیکھیں اور ان کا جواب دیں۔
رپورٹ یہ ثابت نہیں کرتی ہے کہ AI سسٹم نے دراصل ایلیٹ کی فائلنگ کو پڑھا، ہدایات پر عمل کیا یا کسی حکم کو متاثر کیا۔ اس کا کہنا ہے کہ فوری طور پر اس معاملے میں کام نہیں کیا۔ وہ حدود اہم ہیں: ٹھوس واقعہ چھپے ہوئے متن کا اندراج اور دریافت ہے، اس کے بعد منظوری، نہ کہ AI کی مدد سے عدالتی غلطی کا مظاہرہ کرنا۔ رپورٹ مختلف سافٹ ویئر سسٹمز یا اسکیننگ ورک فلو میں دستاویز کے مکمل تکنیکی رویے کی بھی آزادانہ طور پر تصدیق نہیں کرتی ہے۔
یہ واقعہ ان تنظیموں کے لیے ایک وسیع تر حفاظتی مسئلہ کی عکاسی کرتا ہے جو AI سسٹمز میں ناقابل اعتماد دستاویزات فراہم کرتی ہیں۔ ایک دستاویز انسانی پڑھنے کے لیے موزوں ہو سکتی ہے لیکن اس میں پوشیدہ فارمیٹنگ، میٹا ڈیٹا یا مشین سے پڑھنے کے قابل ہدایات شامل ہیں جو خودکار سمریزر یا اسسٹنٹ کو متاثر کرتی ہیں۔ عدالت میں، اس طرح کی ہیرا پھیری سے سمری کو مسخ کیا جا سکتا ہے، ایک فریق کے دعووں کو ترجیح دی جا سکتی ہے، متعلقہ سیاق و سباق کو چھوڑ دیا جا سکتا ہے یا ریکارڈ کا غلط تاثر پیدا ہو سکتا ہے۔ اسی طرح کے خطرات ملازمتوں، تعلیم، بیمہ اور سرکاری کام کے بہاؤ میں پیدا ہوسکتے ہیں، حالانکہ رپورٹ کی ان ترتیبات کی مثالیں جج سے منسوب ہیں اور یہاں ان کا آزادانہ طور پر جائزہ نہیں لیا گیا ہے۔
یہ کیس ذمہ دار AI امداد کو غیر جائزہ شدہ انحصار سے بھی الگ کرتا ہے۔ Spader نے لکھا کہ AI ٹولز کا قانونی کام کا حصہ رہنے کا امکان ہے اور کہا کہ اس نے Google Gemini کو ورکنگ ٹرانسلیشن کے لیے اور ویسٹلا اے آئی ٹولز کو حکام کی جانچ پڑتال کے لیے استعمال کیا ہے، جبکہ آزادانہ طور پر نتائج کی تصدیق کی ہے۔ عملی سبق یہ نہیں ہے کہ عدالتوں کو AI کو ترک کر دینا چاہیے، لیکن یہ کہ انہیں پرووننس، دستاویز کی پیشکش، انسانی جائزہ اور اس کی تشکیل نو کرنے کی صلاحیت کے ارد گرد کنٹرول کی ضرورت ہے کہ کس طرح آؤٹ پٹ تیار کیا گیا تھا۔ رپورٹ میں یہ نہیں بتایا گیا ہے کہ آیا کنیکٹیکٹ نے اس طرح کے کنٹرول کو اپنایا ہے۔
انٹرایکٹو میکانزم: یہ اصل میں کیسے کام کرتا ہے۔
اس ترقی کے پیچھے بنیادی ٹیکنالوجی کو انٹرایکٹو طریقے سے دریافت کریں۔
Why can ethical evaluation not be reduced to one model score?
آگے کیا دیکھنا ہے۔
مرکزی جواب نہ دیا گیا سوال یہ ہے کہ عدالتیں ڈیجیٹل طور پر جمع کرائی گئی دستاویزات کا معائنہ کیسے کریں گی جب کہ نظر آنے والے صفحہ میں فائل میں شامل ہر چیز شامل نہیں ہوسکتی ہے۔ رپورٹ میں چھپے ہوئے متن کا پتہ لگانے کے لیے یکساں عدالتی پالیسی کی نشاندہی نہیں کی گئی، اور نہ ہی یہ ثابت کرتی ہے کہ کسی بھی AI سسٹم نے ایلیٹ کے پرامپٹ پر کارروائی کی۔ مستقبل کے معاملات پابندیوں، انکشاف کے فرائض، دستاویز پر عملدرآمد کے تحفظات اور فریقین کس طرح AI کی مدد سے کیے گئے فیصلے کو چیلنج کر سکتے ہیں جو کہ چھپے ہوئے مواد سے متاثر ہو سکتا ہے واضح کر سکتے ہیں۔
عدالتوں اور قانونی خدمات فراہم کرنے والوں کو ایسے طریقہ کار کی ضرورت ہو سکتی ہے جو کسی دستاویز کی پیش کردہ شکل کا اس کے بنیادی متن اور فارمیٹنگ سے موازنہ کریں۔ ممکنہ حفاظتی اقدامات میں فائلنگ کو معیاری فارمیٹس میں تبدیل کرنا، سفید پر سفید متن اور غیر پرنٹنگ حروف کو جھنڈا لگانا، چھپی ہوئی تہوں کو اسکین کرنا اور AI سے تیار کردہ خلاصوں کے فیصلوں پر اثر انداز ہونے سے پہلے انسانی جائزہ لینے کی ضرورت شامل ہے۔ ذریعہ یہ رپورٹ نہیں کرتا ہے کہ کنیکٹیکٹ نے ان اقدامات میں سے کسی کو لاگو کیا ہے، لہذا ان کے استعمال کو فرض نہیں کیا جانا چاہئے.
مستقبل کے تنازعات اس بات کی جانچ کر سکتے ہیں کہ آیا مخفی ہدایات صاف گوئی، دائر کرنے کی دیانتداری، دھوکہ دہی یا عدالتی عمل کے غلط استعمال کے بارے میں موجودہ قواعد کی خلاف ورزی کرتی ہیں، اور کیا پابندیاں اس وقت مختلف ہونی چاہئیں جب پرامپٹ محض موجود ہو بمقابلہ جب یہ AI آؤٹ پٹ کو واضح طور پر تبدیل کرتا ہے۔ ایلیٹ کے معاملے میں، اطلاع دی گئی منظوری مقدمہ کو خارج کرنے کے بجائے الیکٹرانک فائلنگ کے مراعات کا نقصان تھا۔ رپورٹ ایک وسیع تر نظیر فراہم نہیں کرتی ہے یا اس بات کی نشاندہی نہیں کرتی ہے کہ آیا اس فیصلے کے خلاف اپیل کی گئی ہے۔
ایک اہم تصدیقی سوال یہ ہوگا کہ کیا کوئی عدالت، پارٹی یا وینڈر یہ دکھا سکتا ہے کہ AI سسٹم نے چھپے ہوئے متن پر کارروائی کی۔ کنیکٹیکٹ جوڈیشل برانچ کی رپورٹ کردہ AI فائلنگ ریویو سسٹم کی کمی فوری دعوے کو کم کرتی ہے، لیکن وکلاء اور مدعی عدالت کے اپنے سسٹم سے باہر تھرڈ پارٹی ٹولز استعمال کر سکتے ہیں۔ تفتیش کاروں کو یہ معلوم کرنے کے لیے کہ آیا ہیرا پھیری کا نتیجہ متاثر ہوا ہے، دستاویزات کے اپ لوڈ، سافٹ ویئر ورژن، پرامپٹ، آؤٹ پٹ اور انسانی فیصلوں کے ریکارڈ کی ضرورت ہوگی۔
رپورٹ بتاتی ہے کہ مخفی ہدایات کی شناخت مشکل ہو سکتی ہے کیونکہ قانونی ورک فلو دستاویز کے خلاصے اور خودکار جائزے پر انحصار کرتے ہیں۔ عملی حفاظتی اقدامات کو خود نمائی کرنے والے قانونی چارہ جوئی کے لیے رسائی کو برقرار رکھنا ہو گا جبکہ ڈیجیٹل فائلنگ کو غیر ظاہر شدہ احکامات کو لے جانے سے روکنا ہو گا۔ جب تک عدالتیں واضح تکنیکی اور طریقہ کار کے معیارات شائع نہیں کرتیں، خطرے کی حد غیر یقینی رہتی ہے۔ اس مضمون کا اکاؤنٹ Stamford Advocate کی رپورٹ پر مبنی ہے جیسا کہ GovTech کے ذریعے دوبارہ شائع کیا گیا ہے اور عدالتی مواد اور انٹرویوز کا حوالہ دیا گیا ہے۔ بنیادی فائلنگ اور کسی بھی AI پروسیسنگ لاگز کا یہاں آزادانہ طور پر جائزہ نہیں لیا گیا۔