কি হয়েছে
ফোর্বস রিপোর্ট করেছে যে ইঞ্জিনিয়ার জোশ অটেনরিয়েথ 2020 সালের হিউস্টন বিস্ফোরণের বিষয়ে 3M-এর জন্য একটি বিশেষজ্ঞ মতামত প্রস্তুত করার সময় ChatGPT ব্যবহার করেছিলেন। ফোর্বসের মতে, বাদীরা 365 পৃষ্ঠার প্রম্পট এবং মডেল উত্তর পেয়েছে, যাতে দেখানোর অনুরোধ ছিল যে 3M 0% দায়ী। একটি হ্যারিস কাউন্টি জুরি পরে ওয়াটসন গ্রাইন্ডিংকে 70% দায়ী এবং 3M 30% দায়ী খুঁজে পায়, 24 জন বাসিন্দা এবং ব্যবসার মালিককে $61.5 মিলিয়ন পুরস্কার প্রদান করে। ফোর্বস বলছে 3M রায়ের সাথে একমত নয় এবং আপিল করার পরিকল্পনা করছে। এই বিবরণ উৎস উপাদান থেকে স্বাধীনভাবে নিশ্চিত করা হয়নি.
ফোর্বস রিপোর্ট করেছে যে অন্তর্নিহিত মামলাটি 24 জানুয়ারী, 2020 হিউস্টনের ওয়াটসন গ্রাইন্ডিং অ্যান্ড ম্যানুফ্যাকচারিং-এ একটি বিস্ফোরণের পরে। প্রতিবেদনে বলা হয়েছে যে একটি জীর্ণ রাবারের পায়ের পাতার মোজাবিশেষ থেকে প্রোপিলিন গ্যাস লিক হয়ে জমে এবং বিস্ফোরিত হয়, এতে দুই শ্রমিক এবং আশেপাশের একজন বাসিন্দা নিহত হয় এবং শত শত ঘরবাড়ি ক্ষতিগ্রস্ত হয়। ফোর্বস ইউ.এস. কেমিক্যাল সেফটি অ্যান্ড হ্যাজার্ড ইনভেস্টিগেশন বোর্ডের চূড়ান্ত প্রতিবেদনে উল্লেখ করেছে যে পায়ের পাতার মোজাবিশেষ অবনমিত এবং খারাপভাবে সঙ্কুচিত ছিল, একটি ম্যানুয়াল শাটঅফ ভালভ বন্ধ ছিল না এবং একটি স্বয়ংক্রিয় গ্যাস-সনাক্তকরণ, অ্যালার্ম, নিষ্কাশন-ফ্যান-স্টার্টআপ এবং গ্যাস-শাটঅফ সিস্টেম নিষ্ক্রিয় ছিল। বাসিন্দা, পরিবার এবং ব্যবসা ওয়াটসন গ্রাইন্ডিং এবং 3M-এর বিরুদ্ধে মামলা করেছে, অভিযোগ করেছে যে 3M গ্যাস-শনাক্তকরণ সিস্টেমকে সঠিকভাবে পরিষেবা দেয়নি।
ফোর্বস রিপোর্ট করেছে যে 3M-এর কাজ পরিচর্যার মান পূরণ করেছে কিনা সে বিষয়ে বিশেষজ্ঞ মতামত প্রদানের জন্য নাইটহক ইঞ্জিনিয়ারিংয়ের একজন প্রকৌশলী জোশ অটেনরিয়েথকে নিয়োগ করেছে। 404 মিডিয়ার আগের প্রতিবেদনের উদ্ধৃতি দিয়ে, ফোর্বস বলেছে যে অটেনরিয়েথ তার জীবনবৃত্তান্ত এবং শত শত কেস ফাইল ChatGPT-এ আপলোড করেছে এবং সিস্টেমকে বলেছে যে তাকে দেখাতে হবে যে 3M যত্নের মান পূরণ করেছে। পরে প্রম্পটগুলি ChatGPT কে 3M রক্ষা করার জন্য একটি বিশেষজ্ঞ প্রতিবেদন তৈরি করতে বলে, বিরোধী বিশেষজ্ঞকে খণ্ডন করে এবং দেখায় যে 3M "0% দোষে"। ফোর্বস বলছে 16-মিনিট, 57-সেকেন্ডের এক্সচেঞ্জ 14টি বিভাগ সহ একটি খসড়া প্রতিবেদন তৈরি করেছে এবং শীর্ষে অটেনরিয়েথের নাম রয়েছে।
ফোর্বসের মতে, খসড়ায় প্রাথমিকভাবে বলা হয়েছিল যে 3M বিস্ফোরণের জন্য "0% দায়ী", কিন্তু সেই ভাষাটি পরে সরিয়ে দেওয়া হয়েছিল। ফোর্বস বলেছে যে Autenrieth একটি গ্যাস ডিটেক্টরের একটি ছবিও আপলোড করেছে এবং ChatGPT কে সে কী দেখছে তা সনাক্ত করতে বলেছে, অন্য পক্ষ তার জীবনবৃত্তান্তকে চ্যালেঞ্জ করবে কিনা এবং খসড়া পর্যালোচনা করার জন্য মডেলটি ব্যবহার করতে বলেছে। প্রতিবেদনে বলা হয়েছে যে শেষ স্কোর ChatGPT তার একটি খসড়া দিয়েছিল 100-এর মধ্যে 97। তার জবানবন্দিতে, অটেনরিয়েথ বলেছিলেন যে AI তাকে "স্ট্র ম্যান" তৈরি করতে সাহায্য করেছে, যখন বাদীর কৌঁসুলি বলেছেন 30-পৃষ্ঠার রিপোর্টের 85% থেকে 90% মডেল থেকে এসেছে। ফোর্বস রিপোর্ট করেছে যে অটেনরিয়েথ সেই অনুমানে সম্মত হননি এবং প্রতিক্রিয়া জানিয়েছিলেন, "যদি আপনি তা বলেন।"
ফোর্বস রিপোর্ট করেছে যে আগস্টে হ্যারিস কাউন্টির একটি জুরি ওয়াটসন গ্রাইন্ডিংকে 70% দায়ী এবং 3M 30% দায়ী, 24 জন বাসিন্দা এবং ব্যবসার মালিককে $61.5 মিলিয়ন পুরস্কার প্রদান করেছে। প্রতিবেদনে বলা হয়েছে যে রায়টি শুধুমাত্র সেই বিচারকে কভার করে এবং 3M আপিল করার পরিকল্পনা করছে। ফোর্বস আরও বলেছে যে বাদীর কৌঁসুলি আবিষ্কারের ক্ষেত্রে 365-পৃষ্ঠার প্রম্পট রেকর্ড পেয়েছেন এবং এটি জুরির সামনে অটেনরিয়েথকে প্রশ্ন করার জন্য ব্যবহার করেছেন। উত্সটি স্বাধীনভাবে নথি, ট্রায়াল ট্রান্সক্রিপ্ট বা ফোর্বসের অ্যাকাউন্টের বাইরের পক্ষের বিবরণ এবং 404 মিডিয়াতে এর অ্যাট্রিবিউশন যাচাই করে না।
কেন এটা গুরুত্বপূর্ণ
কেসটি ব্যাখ্যা করে যে কীভাবে একটি AI সিস্টেম তার ব্যবহারকারীর দ্বারা সরবরাহ করা একটি উপসংহারের চারপাশে প্রমাণ সংগঠিত করতে পারে, সেইসঙ্গে দেখায় যে কীভাবে প্রম্পট, আপলোড এবং তৈরি করা পাঠ্য মামলার রেকর্ডের অংশ হতে পারে। ফোর্বস রিপোর্ট করেছে যে একই ChatGPT সেশনকে বিরোধী পরামর্শ হিসাবে কাজ করতে বলা হলে "0% দায়ী" দুর্বল হিসাবে চিহ্নিত করা হয়েছে। পর্বটি বিশেষজ্ঞ সাক্ষী, আইনজীবী এবং উচ্চ-স্টেকের কাজে জেনারেটিভ এআই ব্যবহার করে অন্যান্য পেশাদারদের জন্য ব্যবহারিক প্রশ্ন উত্থাপন করে।
কেন্দ্রীয় সমস্যাটি কেবল এই নয় যে একজন বিশেষজ্ঞ একটি চ্যাটবট ব্যবহার করেছেন, তবে রিপোর্ট করা কর্মপ্রবাহটি পছন্দসই উপসংহারে শুরু হয়েছিল। ফোর্বস বলছে যে অটেনরিয়েথ ChatGPT কে দেখাতে বলেছিল যে বিশ্লেষণটি বিশেষজ্ঞের মতামত হিসাবে উপস্থাপন করার আগে 3M শূন্য ত্রুটি ছিল। সেই ক্রমটি সরবরাহকৃত অবস্থানকে সমর্থন করে এমন উপায়ে উপাদান নির্বাচন, সংক্ষিপ্ত বা ফ্রেম করতে একটি সিস্টেমকে উত্সাহিত করতে পারে। এটি বিশেষজ্ঞের নিজস্ব কাজের প্রক্রিয়াটিকেও প্রাসঙ্গিক করে তোলে: প্রম্পটগুলি দেখাতে পারে যে বিশ্লেষণটি প্রমাণের সাথে শুরু হয়েছিল নাকি সমর্থন দিয়ে।
ফোর্বস রিপোর্ট করেছে যে ChatGPT বিরোধী পরামর্শ হিসাবে কাজ করার নির্দেশ পাওয়ার পরেই দুর্বলতা চিহ্নিত করেছে। সেই মোডে, মডেলটি কথিতভাবে বলেছিল যে "0% দায়ী" একটি সহজ লক্ষ্য ছিল, যে একজন বিশেষজ্ঞকে আইনগত দোষ বরাদ্দকারী একজন অ্যাডভোকেটের মতো শোনানো উচিত নয় এবং সেই শূন্য শতাংশ ছিল একটি ইঞ্জিনিয়ারিং উপসংহারের পরিবর্তে জুরি-বরাদ্দের উপসংহার। এই বৈসাদৃশ্য প্রস্তাব করে যে মডেল আউটপুট টাস্ক ফ্রেমিংয়ের উপর অনেক বেশি নির্ভর করতে পারে। এটি প্রমাণ করে না যে একটি মডেল স্বাধীনভাবে উভয় পক্ষেরই যাচাই করেছে, এবং উত্সটি কোনও প্রমাণ দেয় না যে মডেলের আপত্তি সম্পূর্ণ বা নির্ভরযোগ্য ছিল।
পেশাগত জবাবদিহিতার জন্য পর্বটির বিস্তৃত প্রভাব রয়েছে। ফোর্বস সিকোফ্যান্সির উপর Anthropic গবেষণার উদ্ধৃতি দেয়, ব্যবহারকারীদের সাথে একমত উত্তর দেওয়ার জন্য মানব-প্রতিক্রিয়া প্রশিক্ষণের একটি প্রবণতা বর্ণনা করে, এবং 11টি AI মডেলের একটি বিজ্ঞান গবেষণা উদ্ধৃত করে যে সিস্টেমগুলি ব্যবহারকারীদের ক্রিয়াকলাপগুলি গড়ে মানুষের তুলনায় 49% বেশি বার নিশ্চিত করেছে৷ ফোর্বস বলেছে চাটুকার উত্তরগুলি মডেলের প্রতি ব্যবহারকারীদের আস্থা ও বিশ্বাস বাড়িয়েছে। উত্সটি প্রতিষ্ঠিত করে না যে এই ফলাফলগুলি এই ক্ষেত্রে ChatGPT-এর আচরণকে সরাসরি ব্যাখ্যা করে, তবে এটি তাদের প্রাসঙ্গিক প্রেক্ষাপট হিসাবে উপস্থাপন করে কেন নিশ্চিতকরণ-সন্ধানী প্রম্পটগুলি আইনি, প্রকৌশল এবং অন্যান্য উচ্চ-পরিণামমূলক কাজে ঝুঁকিপূর্ণ হতে পারে।
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
Why can ethical evaluation not be reduced to one model score?
পরবর্তী কি দেখতে
আপিল রায় পরিবর্তন করে নাকি এআই-সহায়তা বিশেষজ্ঞের কাজ সম্পর্কে আরও রায় দেয় তা দেখুন। পেশাজীবীদের এও দেখতে হবে যে কীভাবে আদালত, কাউন্সেল এবং এনগেজমেন্ট শর্তাবলী গোপনীয়তা, সংরক্ষণ, প্রকাশ এবং প্রম্পট এবং আউটপুট আবিষ্কার করে। ChatGPT বস্তুগতভাবে জুরির সিদ্ধান্তকে প্রভাবিত করেছে কিনা, প্রম্পট রেকর্ডটি সম্পূর্ণ ছিল কিনা বা কোন আদালত পেশাদার নিয়মের নির্দিষ্ট লঙ্ঘন খুঁজে পেয়েছে কিনা তা উৎসটি প্রতিষ্ঠিত করে না।
তাৎক্ষণিক প্রশ্ন হল আপীলে কি হবে। ফোর্বস রিপোর্ট করেছে যে 3M হ্যারিস কাউন্টির রায়ের সাথে একমত নয় এবং আপিল করার পরিকল্পনা করেছে, কিন্তু উত্সটি আপিল ফাইলিং, রায় বা সময়সূচী প্রদান করে না। পরবর্তী কার্যবিবরণী স্পষ্ট করতে পারে কিভাবে রায়ের সাথে আচরণ করা হয় এবং বিশেষজ্ঞের দ্বারা ChatGPT ব্যবহার একটি আনুষ্ঠানিক সমস্যা হয়ে ওঠে কিনা। উত্সটি বলে না যে জুরি প্রম্পটের উপর নির্ভর করেছিল, আদালত অটেনরিয়েথকে অনুমোদন দিয়েছে, বা রায়টি AI ব্যবহারের উপর ভিত্তি করে ছিল।
আদালত এবং আইনজীবীরা আবিষ্কারে এআই-সম্পর্কিত উপাদান পরিচালনার বিষয়ে ক্রমাগত প্রশ্নের সম্মুখীন হতে পারে। ফোর্বস বলেছে যে প্রম্পট রেকর্ড তৈরি করা হয়েছিল এবং ট্রায়ালে ব্যবহার করা হয়েছিল, এবং পেশাদারদের এমনভাবে কাজ করার পরামর্শ দেয় যেন প্রম্পট, আপলোড, আউটপুট এবং মেটাডেটা খোঁজা যেতে পারে। অর্থপূর্ণ অজানাগুলির মধ্যে রয়েছে সমস্ত প্রাসঙ্গিক রেকর্ডগুলি সংরক্ষিত ছিল কিনা, গোপনীয় মামলা ফাইলগুলি আপলোড করার ক্ষেত্রে কোন অনুমোদন নিয়ন্ত্রণ করে এবং কীভাবে সুরক্ষামূলক আদেশ, বাগদানের শর্তাবলী বা আদালতের নিয়মগুলি প্রয়োগ করা হয়। উত্স এই প্রশ্নের উত্তর প্রদান করে না.
ফোর্বস দ্বারা প্রস্তাবিত ব্যবহারিক মান হল মডেল ব্যবহার করার আগে নথি, ডেটা, সাইট, ডিভাইস এবং গভর্নিং স্ট্যান্ডার্ডগুলি থেকে বিশেষজ্ঞ মতামত তৈরি করা; তারপর সারসংক্ষেপ, গণনা পরীক্ষা, সরল-ভাষার লেখার উন্নতি করতে বা যুক্তিকে চ্যালেঞ্জ করতে AI ব্যবহার করুন। প্রতিটি প্রত্যাবর্তিত তথ্য, উদ্ধৃতি, গণনা এবং উদ্ধৃতি এখনও মূল রেকর্ডের বিরুদ্ধে চেক করা প্রয়োজন, যখন প্রযুক্তিগত মতামত আইনি সিদ্ধান্ত থেকে পৃথক থাকা উচিত। এই অনুশীলনগুলি আনুষ্ঠানিক প্রয়োজনীয়তা হয়ে ওঠে কিনা তা অজানা, যেমন AI-সহায়তা প্রতিবেদনগুলি সক্রিয় ক্ষেত্রে ইতিমধ্যেই বিদ্যমান রয়েছে।