পরবর্তী আপপরবর্তী গাইড
এআই চ্যাটবট, শিশু এবং অনলাইন নিরাপত্তা আইন
সমাজ
সোসাইটি গাইড
AI নিরাপত্তা প্রতিষ্ঠানগুলি হল সরকারী সংস্থা যারা উন্নত AI মডেলগুলি পরীক্ষা করে এবং অধ্যয়ন করে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
তারা সাইবারট্যাক, রাসায়নিক ও জৈবিক অপব্যবহার এবং মানুষের নিয়ন্ত্রণ হারানোর মতো ঝুঁকির উপর ফোকাস করে, প্রায়ই প্রকাশের আগে মডেলগুলি মূল্যায়ন করে। তারা গুরুত্বপূর্ণ কারণ তারা সরকারকে ফ্রন্টিয়ার এআই-তে স্বাধীন প্রযুক্তিগত দক্ষতা দেয়, যদিও বেশিরভাগই আইনি ক্ষমতার পরিবর্তে কোম্পানির স্বেচ্ছাসেবী সহযোগিতার উপর নির্ভর করে।
2023 সালের নভেম্বরে ব্লেচলে পার্ক এআই সেফটি সামিটকে ঘিরে ইউকে তার AI সেফটি ইনস্টিটিউট স্থাপন করেছে। এটি ফ্রন্টিয়ার এআই টাস্কফোর্স থেকে বেড়ে ওঠে এবং শীর্ষস্থানীয় ল্যাব থেকে গবেষকদের নিয়োগ করে সেরা অর্থায়িত সরকারি এআই মূল্যায়ন দলগুলির মধ্যে একটি হয়ে ওঠে। 2025 সালের ফেব্রুয়ারিতে এর নাম পরিবর্তন করে এআই সিকিউরিটি ইনস্টিটিউট রাখা হয়। নতুন নামটি পক্ষপাতের মতো বিস্তৃত বিষয়গুলির পরিবর্তে সাইবার অপব্যবহার, রাসায়নিক এবং জৈবিক ঝুঁকি এবং অপরাধের মতো জাতীয়-নিরাপত্তা ক্ষতির উপর একটি সংকীর্ণ ফোকাস প্রতিফলিত করে। ইউএস এআই সেফটি ইনস্টিটিউট 2023 সালের শেষের দিকে NIST-এর মধ্যে তৈরি করা হয়েছিল, AI-তে রাষ্ট্রপতি বিডেনের নির্বাহী আদেশের পরে। 2025 সালের জুনে বাণিজ্য বিভাগ এটিকে সেন্টার ফর এআই স্ট্যান্ডার্ডস অ্যান্ড ইনোভেশন (CAISI) হিসেবে পুনর্গঠিত করে। "নিরাপত্তা" ব্র্যান্ডিং বাদ দিয়ে ম্যান্ডেটটি স্বেচ্ছাসেবী মান, জাতীয়-নিরাপত্তা-প্রাসঙ্গিক মূল্যায়ন এবং বিদেশী AI সিস্টেমের মূল্যায়নের দিকে স্থানান্তরিত হয়েছে। জাপান, সিঙ্গাপুর, কানাডা, দক্ষিণ কোরিয়া, ফ্রান্স এবং অন্যরা একই ধরনের সংস্থা স্থাপন করেছে। ইইউ এর এআই অফিসের কিছু সমান্তরাল কাজ আছে, তবে এটি একটি নিয়ন্ত্রক। 2024 সালের নভেম্বরে AI সেফটি ইনস্টিটিউটের ইন্টারন্যাশনাল নেটওয়ার্ক সান ফ্রান্সিসকোতে প্রথম মিটিং করে। এর প্রতিষ্ঠাতা সদস্য ছিল অস্ট্রেলিয়া, কানাডা, ইইউ, ফ্রান্স, জাপান, কেনিয়া, দক্ষিণ কোরিয়া, সিঙ্গাপুর, যুক্তরাজ্য এবং মার্কিন যুক্তরাষ্ট্র। একটি সাধারণ ভুল ধারণা হল যে এই প্রতিষ্ঠানগুলি মডেল রিলিজগুলিকে ব্লক করতে পারে। যুক্তরাজ্য এবং মার্কিন সংস্থাগুলির অ্যাক্সেস বাধ্যতামূলক করার বা স্থাপনা বন্ধ করার কোনও সাধারণ বিধিবদ্ধ ক্ষমতা নেই। তাদের অ্যাক্সেস স্বেচ্ছাসেবী চুক্তি থেকে আসে এবং তাদের ফলাফলগুলি বাধ্যতামূলক না হয়ে নীতি এবং কোম্পানির সিদ্ধান্তগুলিকে আকার দেয়। EU AI অফিস আলাদা: AI আইনের অধীনে এটি সিস্টেমিক ঝুঁকি সহ সাধারণ-উদ্দেশ্য AI মডেলগুলির প্রদানকারীদের কাছ থেকে তথ্যের জন্য অনুরোধ করতে পারে এবং তাদের উপর বাধ্যবাধকতা প্রয়োগ করতে পারে।
ইউকে এবং ইউএস ইনস্টিটিউটগুলি যৌথভাবে একটি আপগ্রেড করা Claude 3.5 সনেট এবং OpenAI এর o1 স্থাপনের আগে পরীক্ষা করেছে এবং 2024 সালের শেষের দিকে ফলাফলের সারসংক্ষেপ প্রকাশ করেছে।
ইউকে ইনস্টিটিউট ইনস্পেক্ট প্রকাশ করেছে, একটি ওপেন সোর্স ফ্রেমওয়ার্ক যা গবেষকরা এবং অন্যান্য সরকার AI মূল্যায়ন তৈরি এবং চালানোর জন্য ব্যবহার করে।
2024 সালে, ইউএস ইনস্টিটিউট OpenAI এবং Anthropic এর সাথে চুক্তি স্বাক্ষর করেছে যা এটিকে প্রকাশ্য প্রকাশের আগে এবং পরে প্রধান নতুন মডেলগুলিতে অ্যাক্সেস দিয়েছে।
বিভিন্ন দেশের ইনস্টিটিউটগুলি পদ্ধতির তুলনা করার জন্য যৌথ পরীক্ষার অনুশীলন পরিচালনা করেছে, উদাহরণস্বরূপ বিভিন্ন ভাষায় এজেন্ট আচরণের মূল্যায়ন করা।
ইনস্টিটিউটের ভূমিকা এখনও পরিবর্তিত হচ্ছে। বেশ কয়েকজন বিস্তৃত নিরাপত্তা গবেষণা থেকে জাতীয় নিরাপত্তা, মান এবং শিল্প প্রতিযোগিতার দিকে সরে গেছে এবং তাদের অগ্রাধিকারগুলি সরকারের সাথে পরিবর্তন হতে পারে। মূল খোলা প্রশ্নগুলি হল তাদের মধ্যে কেউ বিধিবদ্ধ ক্ষমতা পাবে কিনা, কীভাবে তাদের কাজ EU AI অফিসের মতো নিয়ন্ত্রকদের সাথে সংযুক্ত হবে এবং আন্তর্জাতিক সহযোগিতা ভূ-রাজনৈতিক লাইনে গভীর বা বিভক্ত হবে কিনা। তাদের দীর্ঘমেয়াদী মূল্য ভাগ করা, পুনরুত্পাদনযোগ্য মূল্যায়ন পদ্ধতি এবং সীমান্ত ল্যাবগুলির সাথে তাল মিলিয়ে চলার জন্য যথেষ্ট তহবিলের উপর নির্ভর করতে পারে।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
AI নিরাপত্তা প্রতিষ্ঠানগুলি হল সরকারী সংস্থা যারা উন্নত AI মডেলগুলি পরীক্ষা করে এবং অধ্যয়ন করে। তারা সাইবারট্যাক, রাসায়নিক ও জৈবিক অপব্যবহার এবং মানুষের নিয়ন্ত্রণ হারানোর মতো ঝুঁকির উপর ফোকাস করে, প্রায়ই প্রকাশের আগে মডেলগুলি মূল্যায়ন করে। তারা গুরুত্বপূর্ণ কারণ তারা সরকারকে ফ্রন্টিয়ার এআই-তে স্বাধীন প্রযুক্তিগত দক্ষতা দেয়, যদিও বেশিরভাগই আইনি ক্ষমতার পরিবর্তে কোম্পানির স্বেচ্ছাসেবী সহযোগিতার উপর নির্ভর করে।
নতুন নাম, এআই সিকিউরিটি ইনস্টিটিউট, সাইবার, রাসায়নিক এবং জৈবিক অপব্যবহার এবং অপরাধের মতো জাতীয়-নিরাপত্তা ঝুঁকির উপর একটি সংকীর্ণ ফোকাস প্রতিফলিত করে।
বাণিজ্য বিভাগ এটিকে CAISI-তে পরিণত করেছে, যা মান, জাতীয়-নিরাপত্তা মূল্যায়ন এবং বিদেশী সিস্টেমের মূল্যায়নের উপর দৃষ্টি নিবদ্ধ করে।
প্রথম বৈঠকটি 2024 সালের নভেম্বরে সান ফ্রান্সিসকোতে অনুষ্ঠিত হয়েছিল।
তাদের অ্যাক্সেস স্বেচ্ছাসেবী চুক্তি থেকে আসে, এবং তাদের ফলাফলগুলি বাধ্যতামূলক নয় বরং উপদেশমূলক।
পরিদর্শন ডেটাসেট, সমাধানকারী এবং স্কোরারগুলিতে মূল্যায়ন সংগঠিত করে এবং স্যান্ডবক্সড এজেন্ট পরীক্ষা সমর্থন করে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
এআই চ্যাটবট, শিশু এবং অনলাইন নিরাপত্তা আইন
সমাজ