কি হয়েছে
কোহেরে যুক্তি দেন যে Anthropic CEO Dario Amodei কে দায়ী করা একটি রোডম্যাপ নিরাপত্তার মান এবং উন্নয়ন সীমার সমন্বয়ের জন্য প্রধান AI ল্যাবরেটরিগুলির জন্য অনুপযুক্তভাবে সরকারি অনুমতি চায়। পোস্টটি ঘটনা রিপোর্টিং, পর্যবেক্ষণযোগ্যতা, স্থাপনা-নির্দিষ্ট সুরক্ষা এবং নিয়ম তৈরিতে বৃহত্তর অংশগ্রহণের প্রস্তাব করে।
সূত্রে, কোহের যুক্তি দেন যে প্রভাবশালী সিলিকন ভ্যালি এআই কোম্পানিগুলির একটি ছোট গ্রুপকে প্রযুক্তিগত উন্নয়নের গতি নির্ধারণ করার সময় বৃহত্তর শিল্পের জন্য নিরাপত্তা মান নির্ধারণ করার অনুমতি দেওয়া উচিত নয়। এটি একটি Anthropic রোডম্যাপকে চিহ্নিত করে, যা সিইও ডারিও অ্যামোডেইকে দায়ী করা হয়েছে এবং সেই সপ্তাহে প্রকাশিত হিসাবে বর্ণনা করা হয়েছে, একটি সংকীর্ণ অ্যান্টিট্রাস্ট মওকুফ চাওয়া হয়েছে যাতে প্রতিযোগী পরীক্ষাগারগুলি ভাগ করা মান এবং উন্নয়ন সীমার উপর সমন্বয় করতে পারে।
পোস্টে বলা হয়েছে যে কোহেরে অত্যন্ত সক্ষম AI সিস্টেমের স্বাধীন পর্যালোচনা সমর্থন করে কিন্তু কে মান লিখবে, পর্যালোচকদের তত্ত্বাবধান করবে এবং কোন ডেভেলপার এবং পাবলিক স্টেকহোল্ডাররা অংশগ্রহণ করবে তা নিয়ে বিরোধ রয়েছে। এটি যুক্তি দেয় যে কম্পিউট থ্রেশহোল্ড, বড়-মডেল স্কেল এবং ফ্রন্টিয়ার ল্যাবরেটরিগুলিকে কেন্দ্র করে কাঠামোগুলি ছোট সিস্টেম, টুল-ব্যবহারকারী এজেন্ট, সমন্বিত এজেন্ট গ্রুপ এবং সংবেদনশীল পরিবেশে মোতায়েন করা মডেলগুলির ঝুঁকি উপেক্ষা করতে পারে।
Cohere গুরুতর-ঘটনার রিপোর্টিং, পরিচিত ব্যর্থতার মোড পরীক্ষা, পরীক্ষার সময় পর্যবেক্ষণযোগ্যতা বা লগিং, এবং সমালোচনামূলক অবকাঠামোর সাথে সংযুক্ত সিস্টেমগুলিকে বিচ্ছিন্ন করার উপর দৃষ্টি নিবদ্ধ করে একটি ঝুঁকি-ভিত্তিক পদ্ধতির প্রস্তাব করে। এটি আরও যুক্তি দেয় যে সুরক্ষাগুলি কেবলমাত্র এটি তৈরি করা সংস্থার আকারের উপর নির্ভর না করে একটি সিস্টেম কী করতে পারে এবং এটি কী অ্যাক্সেস করতে পারে তার উপর নির্ভর করে। এগুলি উৎসে প্রস্তাবনা, রিপোর্ট করা সরকারি প্রয়োজনীয়তা নয়।
উত্সটি গ্রাহক বা সরকার দ্বারা নিয়ন্ত্রিত অবকাঠামোতে মোতায়েন করা সিস্টেমগুলির জন্য কোহেরের বাণিজ্যিক পছন্দের সাথে নীতির যুক্তিকেও লিঙ্ক করে। এটি বলেছে যে প্রযুক্তিগত বৈচিত্র্য এবং স্থানীয় স্থাপনা একটি একক প্রদানকারীর উপর নির্ভরতা কমাতে পারে, যখন স্বীকার করে যে কোহের নিজেই একমাত্র শাসনকর্তা হওয়া উচিত নয়।
কেন এটা গুরুত্বপূর্ণ
ক্রমবর্ধমান সক্ষম এআই সিস্টেমের জন্য বাধ্যতামূলক সুরক্ষা কে সংজ্ঞায়িত করবে এবং নিরাপত্তা বিধিগুলি বর্তমান ল্যাবরেটরিগুলির বাজার শক্তিকে শক্তিশালী করতে পারে কিনা তা নিয়ে বিরোধ উদ্বেগজনক। কোহেরের অবস্থান বাণিজ্যিকভাবে আগ্রহী, তবে এটি হাসপাতাল, আর্থিক নেটওয়ার্ক, সমালোচনামূলক অবকাঠামো এবং সরকারী ব্যবস্থায় নিয়োজিত AI এর জন্য জবাবদিহিতা, প্রতিযোগিতা, স্বাধীন মূল্যায়ন এবং সুরক্ষার বিষয়ে ব্যবহারিক প্রশ্ন উত্থাপন করে। উত্সটি প্রতিষ্ঠিত করে না যে কোনও ছাড় দেওয়া হয়েছে বা এর প্রস্তাবগুলি গৃহীত হয়েছে৷
উৎসের বর্ণনা সঠিক হলে, প্রস্তাবিত ব্যবস্থা নিরাপত্তা এবং প্রতিযোগিতা আইনের জন্য সমন্বয়ের মধ্যে উত্তেজনা বাড়াবে। ভাগ করা মানগুলি সদৃশ কাজ কমাতে পারে এবং তুলনা করা ঝুঁকিগুলিকে সহজ করে তুলতে পারে, তবে প্রাথমিকভাবে দায়িত্বশীল বিকাশকারীদের দ্বারা ডিজাইন করা নিয়মগুলি তাদের সুবিধাগুলি সংরক্ষণ করতে পারে এবং তাদের অভ্যন্তরীণ সুরক্ষা অনুমানগুলিকে শিল্পের ডিফল্ট করতে পারে৷
উত্সটি একটি ফলাফলমূলক নকশা প্রশ্ন তুলে ধরে: একটি মডেলের আকার বা গণনার প্রয়োজনীয়তা, বা সিস্টেমের ক্ষমতা, স্থাপনার প্রসঙ্গ, সরঞ্জাম এবং বাস্তব-বিশ্বের পরিকাঠামোতে অ্যাক্সেস দ্বারা তদারকি করা উচিত কিনা। এই পার্থক্যটি গুরুত্বপূর্ণ কারণ হাসপাতাল, পেমেন্ট নেটওয়ার্ক, ইউটিলিটি বা সংবেদনশীল ডেটার সাথে সংযুক্ত থাকাকালীন একটি কম শক্তিশালী সিস্টেম এখনও গুরুতর ক্ষতি করতে পারে।
যুক্তিটি স্বাধীন প্রমাণ নয় যে Anthropic-এর প্রস্তাব একটি কার্টেল তৈরি করবে, বিদ্যমান সুরক্ষা ব্যবস্থাগুলি বর্ণিত উপায়ে ব্যর্থ হয়েছে, বা স্থানীয় স্থাপনা স্পষ্টভাবে নিরাপদ। এগুলি কোহেরের করা দাবি এবং রায়। পোস্টটি কোন সরকারী প্রতিক্রিয়া, আইনি বিশ্লেষণ, স্বাধীন মূল্যায়ন বা প্রমাণ সরবরাহ করে না যে নীতিনির্ধারকরা কীভাবে এর বিকল্পগুলিকে বাস্তবায়ন করবে তা দেখায়।
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
Why can ethical evaluation not be reduced to one model score?
পরবর্তী কি দেখতে
মূল উন্নয়নগুলি হল সরকারগুলি আনুষ্ঠানিকভাবে প্রস্তাবিত অ্যান্টিট্রাস্ট অব্যাহতি বিবেচনা করে কিনা, Anthropic বা অন্যান্য পরীক্ষাগারগুলি সাড়া দেয় কিনা এবং নীতিনির্ধারকরা কোম্পানির আকার বা গণনা-ভিত্তিক থ্রেশহোল্ডগুলি অনুসরণ করে কিনা। ঘটনা রিপোর্টিং, লগিং, স্থাপনা বিচ্ছিন্নতা, স্বাধীন পরীক্ষা এবং ছোট ডেভেলপার, গবেষক, সুশীল সমাজ এবং প্রভাবিত সরকারগুলির অংশগ্রহণের উপর দৃঢ় নিয়মের জন্যও দেখুন।
কোনো অ্যান্টিট্রাস্ট মওকুফ, বাধ্যতামূলক মান, জনসাধারণের পরামর্শ, বাস্তবায়নের সময়সূচী বা মূল্য নির্ধারণ এবং অ্যাক্সেসের শর্ত উৎসে নথিভুক্ত করা হয়নি। এটাও স্পষ্ট নয় যে কোন সরকারগুলি প্রস্তাবটি বিবেচনা করছে, Anthropic আনুষ্ঠানিকভাবে এটি নিয়ন্ত্রকদের কাছে জমা দিয়েছে কিনা এবং অন্যান্য বড় পরীক্ষাগারগুলি এটি সমর্থন করে কিনা।
আরও প্রতিবেদনের জন্য Anthropic রোডম্যাপের পাঠ্য এবং স্থিতি যাচাই করা উচিত, জড়িত কোম্পানি এবং নিয়ন্ত্রকদের চিহ্নিত করা উচিত এবং বিদ্যমান প্রতিযোগিতা, নিরাপত্তা এবং সমালোচনামূলক-অবকাঠামো নিয়মের সাথে প্রস্তাবের তুলনা করা উচিত। Anthropic, প্রতিযোগিতা কর্তৃপক্ষ, স্বাধীন মূল্যায়নকারী এবং নাগরিক-সমাজ গোষ্ঠীর প্রতিক্রিয়াগুলি স্পষ্ট করবে যে মতবিরোধটি আইনি সমন্বয়, প্রযুক্তিগত থ্রেশহোল্ড, শাসন বা Cohere-এর পছন্দের স্থাপনার মডেল সম্পর্কে কিনা।
ব্যবহারিক পরীক্ষা হবে যে কোনো ফলস্বরূপ কাঠামোর জন্য পরিমাপযোগ্য নিয়ন্ত্রণের প্রয়োজন আছে কিনা: ঘটনা প্রকাশ, নিরীক্ষার স্বাধীনতা, লগিং, মানব তদারকি, অ্যাক্সেস সীমাবদ্ধতা এবং সমালোচনামূলক সিস্টেম থেকে বিচ্ছিন্নতা। ছোট ল্যাব, ওপেন-সোর্স ডেভেলপার, গবেষক এবং প্রভাবিত সম্প্রদায়গুলি সেই প্রয়োজনীয়তাগুলি সেট করতে এবং চ্যালেঞ্জ করতে অংশ নিতে পারে কিনা তাও গুরুত্বপূর্ণ।