কি হয়েছে
ব্লুমবার্গ রিপোর্ট করেছে যে Anthropic CEO Dario Amodei AI শিল্পকে তার সবচেয়ে উন্নত মডেলগুলির বিকাশ ধীর করার জন্য অনুরোধ করেছেন এবং বলেছেন Anthropic তৃতীয় পক্ষের মূল্যায়নকারীদের সহ অতিরিক্ত নিরাপত্তা ব্যবস্থা বাস্তবায়ন করবে। ব্লুমবার্গ আরও রিপোর্ট করেছে যে OpenAI এবং xAI-এর সাথে যুক্ত নেতারা এআই বিকাশকে ধীর করার আহ্বান জানিয়েছেন। নিবন্ধটি স্বাধীনভাবে এই প্রস্তাবগুলির সুযোগ, সময় বা প্রয়োগযোগ্যতা স্থাপন করে না।
ব্লুমবার্গ রিপোর্ট করেছে যে Anthropic CEO Dario Amodei 12 সেপ্টেম্বর একটি দীর্ঘ ব্লগ পোস্ট প্রকাশ করেছেন যাতে উন্নত AI মডেলের উন্নতির গতিতে একটি বৃহত্তর শিল্পকে "ডাউনশিফ্ট" করার আহ্বান জানানো হয়। ব্লুমবার্গের মতে, অ্যামোডেই প্রযুক্তি থেকে ক্রমবর্ধমান ঝুঁকির কথা উল্লেখ করেছে এবং বলেছে যে Anthropic তৃতীয় পক্ষের মূল্যায়নকারীদের ব্যবহার সহ নতুন নিরাপত্তা পদক্ষেপ প্রবর্তন করবে।
OpenAI সিইও স্যাম অল্টম্যান এবং ইলন মাস্ক সহ ফ্রন্টিয়ার এআই ডেভেলপমেন্টকে ধীর করার জন্য অন্যান্য প্রযুক্তি নেতাদের আহ্বানের পাশাপাশি ব্লুমবার্গের প্রতিবেদনটি বিবৃতিটিও ফ্রেম করেছে। উত্সটি ধীর গতির জন্য উল্লিখিত আহ্বানের বাইরে নিবন্ধে সেই নেতাদের প্রস্তাবগুলির কোনও বিশদ বিবরণ সরবরাহ করে না।
উৎস একটি সেকেন্ডারি রিপোর্ট. Anthropic প্রস্তাবের অস্তিত্ব এবং শব্দ এখানে ব্লুমবার্গের অ্যাকাউন্ট এবং সেই অ্যাকাউন্টে বর্ণিত লিঙ্কযুক্ত পোস্টে দায়ী করা হয়েছে; তারা এই মূল্যায়নের জন্য স্বাধীনভাবে নিশ্চিত করা হয়নি। Anthropic এর নতুন মূল্যায়ন প্রক্রিয়া কখন শুরু হবে, কোন সিস্টেম এটি কভার করবে, কে একজন মূল্যায়নকারী হিসাবে যোগ্যতা অর্জন করবে, বা কোম্পানি ফলাফল প্রকাশ করবে কিনা তা ব্লুমবার্গ নির্দিষ্ট করেনি।
কেন এটা গুরুত্বপূর্ণ
একটি ধীর বিকাশের গতি প্রভাবিত করতে পারে যে কত দ্রুত সীমান্ত AI সিস্টেমগুলি প্রশিক্ষিত, মুক্তি এবং স্থাপন করা হয়, যখন স্বাধীন মূল্যায়ন নিরাপত্তা দাবিগুলির অতিরিক্ত যাচাই-বাছাই প্রদান করতে পারে। তাত্পর্য নির্ভর করে এই কলগুলি প্রতিযোগী সংস্থাগুলির মধ্যে গৃহীত নির্দিষ্ট, পরিমাপযোগ্য প্রতিশ্রুতিতে পরিণত হয় কিনা তার উপর। ব্লুমবার্গ প্রস্তাবগুলি এবং তাদের বিবৃত যৌক্তিকতা রিপোর্ট করে, কিন্তু উত্সটি স্বাধীন প্রমাণ প্রদান করে না যে উন্নয়ন ধীর হয়েছে বা প্রস্তাবিত সুরক্ষাগুলি কার্যকরভাবে কাজ করছে।
প্রস্তাবটি উন্নত AI-তে একটি কেন্দ্রীয় শাসন সমস্যার সমাধান করে: ক্রমবর্ধমান সক্ষম সিস্টেমগুলিকে উন্নত করতে প্রতিদ্বন্দ্বিতাকারী সংস্থাগুলি নিরাপত্তা পরীক্ষা পরিপক্ক হওয়ার আগে তাদের মুক্তি বা স্কেল করার চাপের সম্মুখীন হতে পারে। স্বাধীন মূল্যায়নকারীরা একটি কোম্পানির নিজস্ব পরীক্ষার বাইরেও যাচাই-বাছাই যোগ করতে পারে, তবে তাদের মূল্য প্রাসঙ্গিক সিস্টেমে অ্যাক্সেস, স্বার্থের দ্বন্দ্ব থেকে সুরক্ষা এবং অর্থপূর্ণ ফলাফলগুলি রিপোর্ট করার ক্ষমতার উপর নির্ভর করবে।
একটি স্বেচ্ছাসেবী ধীরগতির ব্যবহারিক তাৎপর্য তখনই হবে যখন এটি প্রশিক্ষণের সময়সূচী, স্থাপনার থ্রেশহোল্ড বা মুক্তির সিদ্ধান্তে পর্যবেক্ষণযোগ্য পরিবর্তন আনে। উত্সটি একটি বিরতি, একটি বাধ্যতামূলক শিল্প চুক্তি, একটি সরকারী প্রয়োজনীয়তা, বা কোনও AI পণ্যের প্রাপ্যতার পরিবর্তনের প্রতিবেদন করে না। এটাও প্রতিষ্ঠিত করে না যে প্রস্তাবিত পদক্ষেপগুলি নির্দিষ্ট ঝুঁকি হ্রাস করবে।
ব্যবহারকারী এবং সংস্থাগুলির জন্য, অবিলম্বে ব্যবহারিক প্রভাব হল একটি পরিচিত পণ্য পরিবর্তনের পরিবর্তে অনিশ্চয়তা। ব্লুমবার্গ নতুন অ্যাক্সেস শর্ত, মূল্য, বা বিধিনিষেধ রিপোর্ট করে না। প্রধান সম্ভাব্য প্রভাব ভবিষ্যত মডেল রিলিজ এবং প্রমাণ কোম্পানি তাদের স্থাপন আগে প্রদান.
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
Why can ethical evaluation not be reduced to one model score?
পরবর্তী কি দেখতে
কংক্রিট টাইমলাইন, কোন মডেল বা ক্ষমতাগুলি কভার করা হবে তার সংজ্ঞা এবং তৃতীয় পক্ষের মূল্যায়নকারীদের স্বাধীনতা ও কর্তৃত্ব সম্পর্কে বিশদ বিবরণ দেখুন৷ অন্যান্য AI বিকাশকারীরা তুলনামূলক প্রতিশ্রুতি গ্রহণ করে কিনা এবং সরকার বা গ্রাহকরা সম্মতির জন্য উদ্দীপনা তৈরি করে কিনা তা দেখাও গুরুত্বপূর্ণ। ব্লুমবার্গ ভোক্তাদের অ্যাক্সেস, পণ্যের প্রাপ্যতা বা মূল্য নির্ধারণে কোনো পরিবর্তনের প্রতিবেদন করে না।
পরবর্তী গুরুত্বপূর্ণ বিশদগুলি হল Anthropic-এর প্রতিশ্রুতির সুযোগ এবং সময়: কোন মডেলগুলিকে মূল্যায়ন করা হবে, মূল্যায়নকারীরা Anthropic এর বাইরের কিনা, তারা কোন তথ্য পরিদর্শন করতে পারে এবং তাদের ফলাফল প্রকাশ করা হবে কিনা। এই শর্তগুলির কোনটিই উৎসে নির্দিষ্ট করা নেই।
OpenAI, xAI, বা অন্যান্য প্রধান বিকাশকারীরা তুলনামূলক প্রতিশ্রুতি দেবে কিনা তা অজানা। একটি বিস্তৃত, সমন্বিত মান পৃথক বিবৃতির চেয়ে বেশি প্রভাব ফেলতে পারে, কিন্তু ব্লুমবার্গ এই ধরনের কোনো চুক্তির রিপোর্ট করেনি।
বাস্তবায়নের প্রমাণের জন্য দেখুন, যেমন বিলম্বিত রিলিজ, নতুন মূল্যায়ন প্রতিবেদন, সংশোধিত স্থাপনার নীতি, বা নিরাপত্তার ফলাফল কীভাবে লঞ্চের সিদ্ধান্তগুলিকে প্রভাবিত করে তার সর্বজনীন ব্যাখ্যা। সূত্রটি এখনও কোনও প্রমাণ দেয়নি যে রিপোর্ট করা কলগুলি উন্নয়ন কার্যকলাপে পরিবর্তন করেছে।