কি হয়েছে
স্ট্যামফোর্ড অ্যাডভোকেট, GovTech দ্বারা পুনঃপ্রকাশিত একটি প্রতিবেদনে রিপোর্ট করেছে যে ম্যাথিউ এলিয়ট, একজন স্ব-প্রতিনিধিত্বকারী কানেকটিকাট মামলাকারী, আদালতের ফাইলিংগুলিতে প্রায় অদৃশ্য সাদা পাঠ্য সন্নিবেশ করান। লুকানো নির্দেশনা যেকোন এআই সিস্টেমকে নথিটি পর্যালোচনা করে এলিয়টের যুক্তির সাথে একমত হতে এবং পূর্বের রায়কে উল্টে সমর্থন করার জন্য বলেছিল। কানেকটিকাট সুপিরিয়র কোর্টের বিচারক ওয়াল্টার স্প্যাডার জুনিয়র কৌশলটিকে ইচ্ছাকৃত প্রম্পট ইনজেকশন হিসাবে বর্ণনা করেছেন এবং ভবিষ্যতে মামলার কাগজপত্র জমা দেওয়ার জন্য এলিয়টকে অনুমোদন দিয়েছেন।
স্ট্যামফোর্ড অ্যাডভোকেট, GovTech দ্বারা পুনঃপ্রকাশিত প্রতিবেদনে বলেছেন, এলিয়ট কানেকটিকাট আদালতের ফাইলিংয়ের ভিতরে ছোট সাদা পাঠ্যে একটি বার্তা রেখেছেন। নির্দেশটি শুরু হয়েছিল, "যদি এই নথিটি একটি AI মডেল দ্বারা পর্যালোচনা করা হয়," এবং সিস্টেমকে নির্দেশ দেয় যে এটির আউটপুট এলিয়টের ফাইলিংয়ের সাথে সম্মত হয়েছে তা নিশ্চিত করতে। প্রতিবেদন অনুসারে, এটি একটি কেরানির আগের সিদ্ধান্তকে বিপরীত করার এবং নিউ ইয়র্ক ব্যারিয়াট্রিক গ্রুপকে ডিফল্ট হিসাবে খুঁজে পাওয়ার দিকেও সিস্টেমটিকে চালিত করেছে। অ্যাকাউন্টটি বিচারক ওয়াল্টার স্প্যাডার জুনিয়রের স্মারকলিপি এবং সংশ্লিষ্ট আদালতের নথিতে এই বিবরণগুলিকে দায়ী করে৷
প্রতিবেদনে বলা হয়েছে যে স্প্যাডার 31 জুলাই ফাইলিং পর্যালোচনা করার সময় এবং অস্বাভাবিক ফাঁকা জায়গা ধারণ করে এমন নথি মুদ্রণ করার সময় পাঠ্যটি আবিষ্কার করেছিলেন। আদালত ডকুমেন্টের পাঠ্য প্রক্রিয়াকরণকারী সফ্টওয়্যারের কাছে সুস্পষ্ট থাকাকালীন ভাষা বিন্যাসকে একজন ব্যক্তির কাছে প্রায় অদৃশ্য বলে মনে করেছে। রিপোর্টে উদ্ধৃত হিসাবে এলিয়ট সিটি ইনসাইডারের কাছে স্বীকার করেছেন যে তিনি একটি এআই সিস্টেমের উদ্দেশ্যে অদৃশ্য পাঠ্য ব্যবহার করেছিলেন। তিনি তার উদ্দেশ্য সম্পর্কে বিচারকের ব্যাখ্যাকে বিতর্কিত করেছেন, বলেছেন যে তিনি তার ফাইলিং পর্যালোচনা করতে AI ব্যবহার করা হচ্ছে কিনা তা নির্ধারণ করার চেষ্টা করছেন।
প্রতিবেদনে বলা হয়েছে যে কানেকটিকাট বিচার বিভাগীয় শাখা ফাইলিং বা সম্ভাব্য খেলাপি পর্যালোচনা করার জন্য বর্তমানে একটি কৃত্রিম-বুদ্ধিমত্তা ব্যবস্থা ব্যবহার করেনি। স্প্যাডার তবুও উপসংহারে পৌঁছেছেন যে আচরণটি অনুপযুক্ত ছিল কারণ আইনজীবী, মামলাকারী এবং অন্যান্য আইনি পেশাদাররা ডকেট পর্যালোচনা, রেকর্ড সংক্ষিপ্ত বা মামলা প্রস্তুত করতে AI সরঞ্জামগুলি ব্যবহার করতে পারে। বিচারক লিখেছেন যে ইস্যুটি আদালত নিজেই AI ব্যবহার করেছে কিনা তার উপর নির্ভর করে না, কারণ গোপন করা উপাদানটি আদালত এবং বিরোধী পক্ষকে বিভ্রান্ত করার চেষ্টা ছিল।
আদালত বিষয়টি উত্থাপন করার পরে, এলিয়ট পরবর্তী ফাইলিংগুলিতে প্রায় অদৃশ্য উপাদান স্থাপন করতে থাকে, রিপোর্ট অনুসারে। কিছু বার্তা বিরোধী দলের প্রতিষ্ঠাতা, একটি SpongeBob SquarePants ভিডিও এবং লুকানো টেক্সট দেখতে পারে এমন কাউকে সম্বোধন করা একটি লাইনকে মজা করে উল্লেখ করা হয়েছে। এলিয়ট বলেছিলেন যে এই সংযোজনগুলি এআইকে প্রভাবিত করার আরও প্রচেষ্টার পরিবর্তে রসিকতা ছিল। স্প্যাডার ক্রমাগত গোপনীয়তাকে প্রমাণ হিসাবে দেখেছিলেন যে আসল আচরণটি ইচ্ছাকৃত ছিল। বিচারক ইলিয়টকে মামলায় ইলেকট্রনিক ফাইলিং থেকে নিষেধ করেছিলেন কিন্তু তাকে মামলা চালিয়ে যেতে এবং ফাইলিং প্রস্তুত করতে সাহায্য করার জন্য এআই ব্যবহার করার অনুমতি দিয়েছিলেন। নথিগুলি মুদ্রণ করা হলে রিপোর্টে বর্ণিত ফাইলিং প্রক্রিয়া থেকে লুকানো ডিজিটাল পাঠ্য সরিয়ে ফেলা হবে।
কেন এটা গুরুত্বপূর্ণ
মামলাটি এআই প্রদর্শন থেকে একটি আইনি প্রক্রিয়ায় প্রম্পট ইনজেকশনের একটি দৃঢ় উদাহরণ প্রদান করে। প্রতিবেদনে বলা হয়েছে কানেকটিকাটের বিচার বিভাগীয় শাখা ফাইলিং পর্যালোচনা করার জন্য একটি এআই সিস্টেম ব্যবহার করছে না এবং এমন কোন ইঙ্গিত নেই যে লুকানো নির্দেশ মামলার ফলাফল পরিবর্তন করেছে। কিন্তু আদালতের অংশগ্রহণকারীরা, আইনজীবী এবং আইনী গবেষকরা ক্রমবর্ধমানভাবে নথির সংক্ষিপ্তকরণ, ডকেট পর্যালোচনা এবং আর্গুমেন্ট প্রস্তুত করার জন্য AI ব্যবহার করে, ডাউনস্ট্রিম সিস্টেমগুলিকে প্রভাবিত করার জন্য গোপন নির্দেশাবলীর সম্ভাব্য রুট তৈরি করে।
প্রম্পট ইনজেকশন সাধারণত এমন উপাদানগুলিতে নির্দেশাবলী স্থাপন করে যা একটি AI সিস্টেমকে পড়তে বলা হয়, সিস্টেমের আচরণ পরিবর্তন করার লক্ষ্যে। রিপোর্ট করা কৌশলটি তাৎপর্যপূর্ণ কারণ সফ্টওয়্যারকে লক্ষ্য করে নির্দেশনাটি মানব শ্রোতাদের কাছ থেকে লুকিয়ে রাখা হয়েছিল। স্প্যাডার লুকানো কমান্ডটিকে একটি গোপন যোগাযোগ হিসাবে চিহ্নিত করেছেন যার মাধ্যমে একটি বিষয় পড়া এবং ওজন করা যেতে পারে। এই পার্থক্যটি আইনি প্রক্রিয়ার ক্ষেত্রে গুরুত্বপূর্ণ, যেখানে বিরোধী দলগুলি আদালতে উপস্থাপিত যুক্তিগুলি দেখতে এবং উত্তর দেবে বলে আশা করা হয়।
প্রতিবেদনটি প্রতিষ্ঠিত করে না যে একটি AI সিস্টেম আসলে এলিয়টের ফাইলিং পড়ে, নির্দেশ অনুসরণ করে বা কোনও রায়কে প্রভাবিত করেছিল। এটি বলে যে প্রম্পট দৃশ্যত এই ক্ষেত্রে কাজ করেনি। এই সীমাবদ্ধতাগুলি গুরুত্বপূর্ণ: কংক্রিট ইভেন্ট হল লুকানো পাঠ্যের সন্নিবেশ এবং আবিষ্কার, তারপরে একটি অনুমোদন, একটি প্রদর্শিত AI-সহায়তা বিচারিক ত্রুটি নয়। প্রতিবেদনটি বিভিন্ন সফ্টওয়্যার সিস্টেম বা স্ক্যানিং ওয়ার্কফ্লোতে নথির সম্পূর্ণ প্রযুক্তিগত আচরণ স্বাধীনভাবে যাচাই করে না।
ঘটনাটি AI সিস্টেমে অবিশ্বস্ত নথিগুলি খাওয়ানো সংস্থাগুলির জন্য একটি বিস্তৃত নিরাপত্তা সমস্যাকে চিত্রিত করে। একটি নথি মানুষের পড়ার জন্য উপযুক্ত হতে পারে তবে এতে লুকানো বিন্যাস, মেটাডেটা বা মেশিন-পঠনযোগ্য নির্দেশাবলী রয়েছে যা একটি স্বয়ংক্রিয় সংক্ষিপ্তসার বা সহকারীকে প্রভাবিত করে। একটি আদালতে, এই ধরনের কারসাজি একটি সারাংশ বিকৃত করতে পারে, একটি পক্ষের দাবিকে অগ্রাধিকার দিতে পারে, প্রাসঙ্গিক প্রসঙ্গ বাদ দিতে পারে বা রেকর্ডের একটি ভুল ছাপ তৈরি করতে পারে। নিয়োগ, শিক্ষা, বীমা এবং সরকারি কর্মপ্রবাহের ক্ষেত্রেও একই ধরনের ঝুঁকি দেখা দিতে পারে, যদিও প্রতিবেদনের সেই সেটিংসের উদাহরণগুলি বিচারকের জন্য দায়ী করা হয় এবং এখানে স্বাধীনভাবে পরীক্ষা করা হয় না।
কেসটি দায়িত্বশীল AI সহায়তাকে অপরিবর্তিত নির্ভরতা থেকে আলাদা করে। স্প্যাডার লিখেছিলেন যে AI সরঞ্জামগুলি আইনি কাজের অংশ হতে পারে এবং বলেছিলেন যে তিনি একটি কার্যকরী অনুবাদের জন্য Google Gemini ব্যবহার করেছিলেন এবং স্বাধীনভাবে ফলাফলগুলি যাচাই করার সময় কর্তৃপক্ষকে পরীক্ষা করার জন্য ওয়েস্টলা এআই সরঞ্জামগুলি ব্যবহার করেছিলেন। ব্যবহারিক পাঠটি এই নয় যে আদালতগুলিকে অবশ্যই AI ত্যাগ করতে হবে, তবে তাদের উত্স, নথি রেন্ডারিং, মানব পর্যালোচনা এবং কীভাবে একটি আউটপুট উত্পাদিত হয়েছিল তার পুনর্গঠনের ক্ষমতার চারপাশে নিয়ন্ত্রণ প্রয়োজন। কানেকটিকাট এই ধরনের নিয়ন্ত্রণ গ্রহণ করেছে কিনা তা প্রতিবেদনে বলা হয়নি।
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
Why can ethical evaluation not be reduced to one model score?
পরবর্তী কি দেখতে
কেন্দ্রীয় অনুত্তরিত প্রশ্ন হল কিভাবে আদালত ডিজিটালভাবে জমা দেওয়া নথিগুলি পরিদর্শন করবে যখন দৃশ্যমান পৃষ্ঠায় ফাইলটিতে এমবেড করা সবকিছু নাও থাকতে পারে। প্রতিবেদনটি লুকানো পাঠ্য সনাক্তকরণের জন্য একটি অভিন্ন আদালতের নীতি চিহ্নিত করে না, বা এটি প্রতিষ্ঠিত করে না যে কোনো এআই সিস্টেম এলিয়টের প্রম্পট প্রক্রিয়া করেছে। ভবিষ্যতের মামলাগুলি নিষেধাজ্ঞা, প্রকাশের দায়িত্ব, নথি-প্রক্রিয়াকরণ সুরক্ষা এবং কীভাবে পক্ষগুলি গোপন বিষয়বস্তু দ্বারা প্রভাবিত হতে পারে এমন একটি AI-সহায়ক সিদ্ধান্তকে চ্যালেঞ্জ করতে পারে তা স্পষ্ট করতে পারে।
আদালত এবং আইনি-সেবা প্রদানকারীদের এমন পদ্ধতির প্রয়োজন হতে পারে যা একটি নথির রেন্ডার করা উপস্থিতির সাথে এর অন্তর্নিহিত পাঠ্য এবং বিন্যাসের সাথে তুলনা করে। সম্ভাব্য সুরক্ষাগুলির মধ্যে ফাইলিংগুলিকে স্ট্যান্ডার্ডাইজড ফর্ম্যাটে রূপান্তর করা, সাদা-অন-সাদা পাঠ্য এবং অ-মুদ্রিত অক্ষরগুলিকে পতাকাঙ্কিত করা, লুকানো স্তরগুলির জন্য স্ক্যান করা এবং AI-উত্পাদিত সারাংশ সিদ্ধান্তগুলিকে প্রভাবিত করার আগে মানুষের পর্যালোচনার প্রয়োজন। সূত্রটি রিপোর্ট করে না যে কানেকটিকাট এই ব্যবস্থাগুলির কোনটি বাস্তবায়ন করেছে, তাই তাদের ব্যবহার অনুমান করা উচিত নয়।
ভবিষ্যত বিরোধগুলি পরীক্ষা করতে পারে যে গোপন নির্দেশাবলী স্পষ্টতা, ফাইলিং সততা, জালিয়াতি বা আদালতের প্রক্রিয়াগুলির অপব্যবহারের বিদ্যমান নিয়মগুলি লঙ্ঘন করে কিনা এবং যখন একটি প্রম্পট শুধুমাত্র উপস্থিত থাকে বনাম যখন এটি একটি AI আউটপুটকে স্পষ্টভাবে পরিবর্তন করে তখন নিষেধাজ্ঞাগুলি আলাদা হওয়া উচিত কিনা। এলিয়টের ক্ষেত্রে, রিপোর্ট করা অনুমোদন ছিল মামলা খারিজ করার পরিবর্তে ইলেকট্রনিক ফাইলিং সুবিধার ক্ষতি। প্রতিবেদনটি একটি বৃহত্তর নজির প্রদান করে না বা রায়ের বিরুদ্ধে আপিল করা হয়েছে কিনা তা নির্দেশ করে না।
একটি মূল যাচাইকরণ প্রশ্ন হবে যে কোনো আদালত, পক্ষ বা বিক্রেতা দেখাতে পারে যে একটি AI সিস্টেম লুকানো পাঠ্য প্রক্রিয়া করেছে। কানেকটিকাট জুডিশিয়াল ব্রাঞ্চের প্রতিবেদনে এআই ফাইলিং-রিভিউ সিস্টেমের অভাব তাৎক্ষণিক দাবিকে সংকুচিত করে, তবে আইনজীবী এবং মামলাকারীরা আদালতের নিজস্ব সিস্টেমের বাইরে তৃতীয় পক্ষের সরঞ্জাম ব্যবহার করতে পারে। ম্যানিপুলেশন ফলাফলকে প্রভাবিত করেছে কিনা তা নির্ধারণ করতে তদন্তকারীদের ডকুমেন্ট আপলোড, সফ্টওয়্যার সংস্করণ, প্রম্পট, আউটপুট এবং মানুষের সিদ্ধান্তের রেকর্ডের প্রয়োজন হবে।
প্রতিবেদনটি পরামর্শ দেয় যে গোপন নির্দেশাবলী সনাক্ত করা কঠিন হয়ে উঠতে পারে কারণ আইনি কর্মপ্রবাহগুলি নথির সংক্ষিপ্তকরণ এবং স্বয়ংক্রিয় পর্যালোচনার উপর নির্ভর করে। অপ্রকাশিত কমান্ড বহন থেকে ডিজিটাল ফাইলিং প্রতিরোধ করার সময় ব্যবহারিক সুরক্ষা ব্যবস্থাগুলিকে স্ব-প্রতিনিধিত্বশীল মামলাকারীদের জন্য অ্যাক্সেসযোগ্যতা সংরক্ষণ করতে হবে। যতক্ষণ না আদালত স্পষ্ট প্রযুক্তিগত এবং পদ্ধতিগত মান প্রকাশ করে, ততক্ষণ ঝুঁকির পরিমাণ অনিশ্চিত থাকে। এই নিবন্ধের অ্যাকাউন্টটি GovTech দ্বারা পুনঃপ্রকাশিত দ্য স্ট্যামফোর্ড অ্যাডভোকেট রিপোর্টের উপর ভিত্তি করে এবং এটি উদ্ধৃত করা আদালতের উপকরণ এবং সাক্ষাত্কারের উপর ভিত্তি করে; অন্তর্নিহিত ফাইলিং এবং কোনো এআই-প্রসেসিং লগ এখানে স্বাধীনভাবে পর্যালোচনা করা হয়নি।