পরবর্তী আপপরবর্তী গাইড
চীনের TC260 AI সেফটি গভর্নেন্স ফ্রেমওয়ার্ক
সমাজ
সোসাইটি গাইড
একটি ফ্রন্টিয়ার এআই সুরক্ষা কাঠামো, যেমন একটি দায়িত্বশীল স্কেলিং নীতি, বিপজ্জনক ক্ষমতার জন্য তার মডেলগুলি পরীক্ষা করার জন্য একটি AI ল্যাব দ্বারা প্রকাশিত প্রতিশ্রুতি।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
যদি একটি মডেল একটি সেট থ্রেশহোল্ড অতিক্রম করে, ল্যাব আরও শক্তিশালী সুরক্ষা যোগ করার প্রতিশ্রুতি দেয়, বা সেই সুরক্ষাগুলি না হওয়া পর্যন্ত আরও প্রশিক্ষণ না দেওয়া বা না করার জন্য। এই ফ্রেমওয়ার্কগুলি গুরুত্বপূর্ণ কারণ তারাই বর্তমানে সবচেয়ে উন্নত AI মডেলগুলিকে সর্বনাশা ঝুঁকির জন্য নিয়ন্ত্রিত করার প্রধান উপায়, যদিও তাদের বেশিরভাগই স্বেচ্ছায় এবং ল্যাব দ্বারা লিখিত।
Anthropic published the first Responsible Scaling Policy in September 2023. It introduced AI Safety Levels (ASLs), loosely modeled on biosafety levels, where higher levels require stronger security and deployment safeguards. A later version, in October 2024, restated the policy in terms of capability thresholds and required safeguards and described the role of a Responsible Scaling Officer. OpenAI released its Preparedness Framework as a beta in December 2023. It scored risk in tracked categories, originally including CBRN threats, cybersecurity, persuasion and model autonomy. A 2025 revision reorganized it around High and Critical capability thresholds and dropped persuasion as a tracked category. Google DeepMind published its Frontier Safety Framework in May 2024 and has revised it since. It defines Critical Capability Levels (CCLs) that trigger response plans. At the AI Seoul Summit in May 2024, 16 companies signed the Frontier AI Safety Commitments. They agreed to publish safety frameworks, set thresholds for intolerable risk, and not develop or deploy a model if its risks could not be kept below those thresholds. Many frameworks were published before the Paris AI Action Summit in February 2025. Critics point to several weaknesses. Labs write their own thresholds and can revise them on their own. Wording such as "meaningful uplift" leaves room for interpretation. External verification is limited, and commercial competition gives labs an incentive to read results generously. A common misconception is that these frameworks are laws. Most are voluntary, although this is changing. California's SB 53 requires large frontier developers to publish such a framework, and the EU's General-Purpose AI Code of Practice, a voluntary route to showing compliance with the AI Act, asks signatories to adopt one.
প্রকাশের আগে, একটি ল্যাব পরীক্ষা করে যে একটি নতুন মডেল জৈবিক অস্ত্র অর্জনের চেষ্টা করে এমন কাউকে অর্থপূর্ণ উন্নতি দেয় কিনা। যদি এটি থ্রেশহোল্ড অতিক্রম করে, ল্যাব স্থাপনের আগে কঠোর অপব্যবহার ফিল্টার এবং নিরাপত্তা যোগ করে।
2025 সালের মে মাসে, Anthropic বলেছিল যে এটি সতর্কতা হিসাবে Claude Opus 4-এর জন্য ASL-3 স্থাপনা এবং সুরক্ষা সুরক্ষা সক্রিয় করেছে, কারণ এটি উড়িয়ে দেওয়া যায় না যে মডেলটি প্রাসঙ্গিক সক্ষমতার থ্রেশহোল্ডে পৌঁছেছে।
OpenAI এর প্রিপারেডনেস ফ্রেমওয়ার্ক একটি সেফটি অ্যাডভাইজরি গ্রুপকে সক্ষমতার রিপোর্ট পর্যালোচনা করার জন্য এবং রিলিজের আগে সুরক্ষাগুলি পর্যাপ্ত কিনা সে বিষয়ে নেতৃত্বকে পরামর্শ দেয়।
একটি ল্যাব ট্র্যাকিং স্বায়ত্তশাসিত প্রতিলিপি বা এআই গবেষণা ত্বরণ এজেন্টিক মূল্যায়ন চালায়। এই মডেলটি মানুষের সাহায্য ছাড়াই দীর্ঘ, বহু-পদক্ষেপের কাজগুলি সম্পূর্ণ করতে পারে কিনা তা পরীক্ষা করে।
ফ্রেমওয়ার্কগুলি স্বেচ্ছাসেবী অঙ্গীকার থেকে নিয়ন্ত্রক প্রত্যাশার দিকে অগ্রসর হচ্ছে। ক্যালিফোর্নিয়াতে এখন সেগুলি প্রকাশ করার জন্য বড় সীমান্ত বিকাশকারীদের প্রয়োজন, ইইউ-এর অনুশীলন কোড স্বাক্ষরকারীদের সেগুলি গ্রহণ করতে বলে, এবং আরও এখতিয়ার অনুসরণ করতে পারে৷ খোলা প্রশ্নগুলির মধ্যে অন্তর্ভুক্ত রয়েছে কারা সম্মতি নিরীক্ষণ করে, কীভাবে থ্রেশহোল্ডগুলি ল্যাব জুড়ে মানসম্মত হয় এবং মূল্যায়নগুলি দ্রুত উন্নত এজেন্টিক সিস্টেমের সাথে চলতে পারে কিনা। সরকারী AI ইনস্টিটিউট সহ স্বাধীন পরীক্ষার সংস্থাগুলি ল্যাব দাবিগুলি পরীক্ষা করার জন্য একটি বড় ভূমিকা নিতে পারে। কেন্দ্রীয় উত্তেজনা সম্ভবত থাকবে: ল্যাবগুলি তাদের দ্বারা বিচার করা নিয়মগুলি ডিজাইন করে, যা স্বচ্ছতা এবং বাইরের পরীক্ষাকে গুরুত্বপূর্ণ করে তোলে।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
একটি ফ্রন্টিয়ার এআই সুরক্ষা কাঠামো, যেমন একটি দায়িত্বশীল স্কেলিং নীতি, বিপজ্জনক ক্ষমতার জন্য তার মডেলগুলি পরীক্ষা করার জন্য একটি AI ল্যাব দ্বারা প্রকাশিত প্রতিশ্রুতি। যদি একটি মডেল একটি সেট থ্রেশহোল্ড অতিক্রম করে, ল্যাব আরও শক্তিশালী সুরক্ষা যোগ করার প্রতিশ্রুতি দেয়, বা সেই সুরক্ষাগুলি না হওয়া পর্যন্ত আরও প্রশিক্ষণ না দেওয়া বা না করার জন্য। এই ফ্রেমওয়ার্কগুলি গুরুত্বপূর্ণ কারণ তারাই বর্তমানে সবচেয়ে উন্নত AI মডেলগুলিকে সর্বনাশা ঝুঁকির জন্য নিয়ন্ত্রিত করার প্রধান উপায়, যদিও তাদের বেশিরভাগই স্বেচ্ছায় এবং ল্যাব দ্বারা লিখিত।
এই ফ্রেমওয়ার্কগুলি যদি-তখন প্রতিশ্রুতির উপর তৈরি করা হয় যা সক্ষমতার থ্রেশহোল্ডগুলিকে প্রয়োজনীয় সুরক্ষার সাথে সংযুক্ত করে।
Anthropic এর সেপ্টেম্বর 2023 এর দায়িত্বশীল স্কেলিং নীতি ASL চালু করেছে, যা জৈব নিরাপত্তার স্তরের উপর আলগাভাবে মডেল করা হয়েছে।
DeepMind ক্রিটিকাল ক্যাপাবিলিটি লেভেল (CCLs) ব্যবহার করে, যা পৌঁছানোর পর প্রতিক্রিয়া পরিকল্পনাগুলিকে ট্রিগার করে।
ফ্রন্টিয়ার এআই সেফটি কমিটমেন্টগুলি ছিল ফ্রেমওয়ার্ক প্রকাশ করার জন্য স্বেচ্ছায় প্রতিশ্রুতি এবং যদি ঝুঁকিগুলিকে থ্রেশহোল্ডের নীচে রাখা না যায় তাহলে এগোনো যাবে না।
সংশোধনটি উচ্চ এবং সমালোচনামূলক থ্রেশহোল্ডের চারপাশে কাঠামো পুনর্গঠিত করেছে এবং ট্র্যাক করা বিভাগ হিসাবে প্ররোচনা সরিয়ে দিয়েছে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
চীনের TC260 AI সেফটি গভর্নেন্স ফ্রেমওয়ার্ক
সমাজ