সোসাইটি গাইড

সারা বিশ্বে এআই সেফটি ইনস্টিটিউট

AI নিরাপত্তা প্রতিষ্ঠানগুলি হল সরকারী সংস্থা যারা উন্নত AI মডেলগুলি পরীক্ষা করে এবং অধ্যয়ন করে।

এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min

এই পৃষ্ঠায়3 মিনিট পড়া হয়েছে
  1. ওভারভিউ
  2. গভীর ডুব
  3. বাস্তব-বিশ্ব বাস্তবায়ন
  4. সারা বিশ্বে এআই সেফটি ইনস্টিটিউটের ভবিষ্যত
  5. এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
  6. অন্বেষণ চালিয়ে যান
  7. প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ওভারভিউ

তারা সাইবারট্যাক, রাসায়নিক ও জৈবিক অপব্যবহার এবং মানুষের নিয়ন্ত্রণ হারানোর মতো ঝুঁকির উপর ফোকাস করে, প্রায়ই প্রকাশের আগে মডেলগুলি মূল্যায়ন করে। তারা গুরুত্বপূর্ণ কারণ তারা সরকারকে ফ্রন্টিয়ার এআই-তে স্বাধীন প্রযুক্তিগত দক্ষতা দেয়, যদিও বেশিরভাগই আইনি ক্ষমতার পরিবর্তে কোম্পানির স্বেচ্ছাসেবী সহযোগিতার উপর নির্ভর করে।

গভীর ডুব

2023 সালের নভেম্বরে ব্লেচলে পার্ক এআই সেফটি সামিটকে ঘিরে ইউকে তার AI সেফটি ইনস্টিটিউট স্থাপন করেছে। এটি ফ্রন্টিয়ার এআই টাস্কফোর্স থেকে বেড়ে ওঠে এবং শীর্ষস্থানীয় ল্যাব থেকে গবেষকদের নিয়োগ করে সেরা অর্থায়িত সরকারি এআই মূল্যায়ন দলগুলির মধ্যে একটি হয়ে ওঠে। 2025 সালের ফেব্রুয়ারিতে এর নাম পরিবর্তন করে এআই সিকিউরিটি ইনস্টিটিউট রাখা হয়। নতুন নামটি পক্ষপাতের মতো বিস্তৃত বিষয়গুলির পরিবর্তে সাইবার অপব্যবহার, রাসায়নিক এবং জৈবিক ঝুঁকি এবং অপরাধের মতো জাতীয়-নিরাপত্তা ক্ষতির উপর একটি সংকীর্ণ ফোকাস প্রতিফলিত করে। ইউএস এআই সেফটি ইনস্টিটিউট 2023 সালের শেষের দিকে NIST-এর মধ্যে তৈরি করা হয়েছিল, AI-তে রাষ্ট্রপতি বিডেনের নির্বাহী আদেশের পরে। 2025 সালের জুনে বাণিজ্য বিভাগ এটিকে সেন্টার ফর এআই স্ট্যান্ডার্ডস অ্যান্ড ইনোভেশন (CAISI) হিসেবে পুনর্গঠিত করে। "নিরাপত্তা" ব্র্যান্ডিং বাদ দিয়ে ম্যান্ডেটটি স্বেচ্ছাসেবী মান, জাতীয়-নিরাপত্তা-প্রাসঙ্গিক মূল্যায়ন এবং বিদেশী AI সিস্টেমের মূল্যায়নের দিকে স্থানান্তরিত হয়েছে। জাপান, সিঙ্গাপুর, কানাডা, দক্ষিণ কোরিয়া, ফ্রান্স এবং অন্যরা একই ধরনের সংস্থা স্থাপন করেছে। ইইউ এর এআই অফিসের কিছু সমান্তরাল কাজ আছে, তবে এটি একটি নিয়ন্ত্রক। 2024 সালের নভেম্বরে AI সেফটি ইনস্টিটিউটের ইন্টারন্যাশনাল নেটওয়ার্ক সান ফ্রান্সিসকোতে প্রথম মিটিং করে। এর প্রতিষ্ঠাতা সদস্য ছিল অস্ট্রেলিয়া, কানাডা, ইইউ, ফ্রান্স, জাপান, কেনিয়া, দক্ষিণ কোরিয়া, সিঙ্গাপুর, যুক্তরাজ্য এবং মার্কিন যুক্তরাষ্ট্র। একটি সাধারণ ভুল ধারণা হল যে এই প্রতিষ্ঠানগুলি মডেল রিলিজগুলিকে ব্লক করতে পারে। যুক্তরাজ্য এবং মার্কিন সংস্থাগুলির অ্যাক্সেস বাধ্যতামূলক করার বা স্থাপনা বন্ধ করার কোনও সাধারণ বিধিবদ্ধ ক্ষমতা নেই। তাদের অ্যাক্সেস স্বেচ্ছাসেবী চুক্তি থেকে আসে এবং তাদের ফলাফলগুলি বাধ্যতামূলক না হয়ে নীতি এবং কোম্পানির সিদ্ধান্তগুলিকে আকার দেয়। EU AI অফিস আলাদা: AI আইনের অধীনে এটি সিস্টেমিক ঝুঁকি সহ সাধারণ-উদ্দেশ্য AI মডেলগুলির প্রদানকারীদের কাছ থেকে তথ্যের জন্য অনুরোধ করতে পারে এবং তাদের উপর বাধ্যবাধকতা প্রয়োগ করতে পারে।

বাস্তব-বিশ্ব বাস্তবায়ন

ইউকে এবং ইউএস ইনস্টিটিউটগুলি যৌথভাবে একটি আপগ্রেড করা Claude 3.5 সনেট এবং OpenAI এর o1 স্থাপনের আগে পরীক্ষা করেছে এবং 2024 সালের শেষের দিকে ফলাফলের সারসংক্ষেপ প্রকাশ করেছে।

ইউকে ইনস্টিটিউট ইনস্পেক্ট প্রকাশ করেছে, একটি ওপেন সোর্স ফ্রেমওয়ার্ক যা গবেষকরা এবং অন্যান্য সরকার AI মূল্যায়ন তৈরি এবং চালানোর জন্য ব্যবহার করে।

2024 সালে, ইউএস ইনস্টিটিউট OpenAI এবং Anthropic এর সাথে চুক্তি স্বাক্ষর করেছে যা এটিকে প্রকাশ্য প্রকাশের আগে এবং পরে প্রধান নতুন মডেলগুলিতে অ্যাক্সেস দিয়েছে।

বিভিন্ন দেশের ইনস্টিটিউটগুলি পদ্ধতির তুলনা করার জন্য যৌথ পরীক্ষার অনুশীলন পরিচালনা করেছে, উদাহরণস্বরূপ বিভিন্ন ভাষায় এজেন্ট আচরণের মূল্যায়ন করা।

সারা বিশ্বে এআই সেফটি ইনস্টিটিউটের ভবিষ্যত

ইনস্টিটিউটের ভূমিকা এখনও পরিবর্তিত হচ্ছে। বেশ কয়েকজন বিস্তৃত নিরাপত্তা গবেষণা থেকে জাতীয় নিরাপত্তা, মান এবং শিল্প প্রতিযোগিতার দিকে সরে গেছে এবং তাদের অগ্রাধিকারগুলি সরকারের সাথে পরিবর্তন হতে পারে। মূল খোলা প্রশ্নগুলি হল তাদের মধ্যে কেউ বিধিবদ্ধ ক্ষমতা পাবে কিনা, কীভাবে তাদের কাজ EU AI অফিসের মতো নিয়ন্ত্রকদের সাথে সংযুক্ত হবে এবং আন্তর্জাতিক সহযোগিতা ভূ-রাজনৈতিক লাইনে গভীর বা বিভক্ত হবে কিনা। তাদের দীর্ঘমেয়াদী মূল্য ভাগ করা, পুনরুত্পাদনযোগ্য মূল্যায়ন পদ্ধতি এবং সীমান্ত ল্যাবগুলির সাথে তাল মিলিয়ে চলার জন্য যথেষ্ট তহবিলের উপর নির্ভর করতে পারে।

এটাকে বাস্তবে প্রয়োগ করা হচ্ছে

কেন এটা গুরুত্বপূর্ণ

  • ঝুঁকি এবং নিরাপত্তা. বিপর্যয়কর এবং দৈনন্দিন এআই ক্ষতি উভয়ই নির্ভর করে কে ঝুঁকি বুঝতে পারে এবং কে কাজ করতে পারে।
  • সুস্পষ্ট সিদ্ধান্ত. জনসাধারণের এবং পেশাদার সাক্ষরতা গঠন করে যে শক্তিশালী নিরাপত্তা নীতি রাজনৈতিকভাবে সম্ভব কিনা।
  • হাইপের মাধ্যমে কাটা. স্পষ্ট ব্যাখ্যা হাইপ, ল্যাব পিআর, এবং অস্পষ্ট নীতিশাস্ত্র থিয়েটার দ্বারা ক্যাপচার হ্রাস করে।

জন্য সতর্ক

  • সক্ষমতা যৌগিক অবস্থায় অস্তিত্বগত ঝুঁকিকে সাই-ফাই হিসাবে বিবেচনা করা।
  • উচ্চ স্বায়ত্তশাসনের অধীনে প্রান্তিককরণের সাথে বিভ্রান্তিকর পৃষ্ঠ পণ্য নিরাপত্তা।
  • অ-ইংরেজি এবং অ-বিশেষজ্ঞ শ্রোতাদের শুধুমাত্র নিম্ন-মানের উত্স সহ ত্যাগ করা।

পরবর্তী পদক্ষেপ

  1. পৃথক পণ্য ক্ষতি, অপব্যবহার, এবং ক্ষতি-অব-নিয়ন্ত্রণ/বিভ্রান্তির ঝুঁকি।
  2. জিজ্ঞাসা করুন কি প্রমাণ সময়সীমা এবং তীব্রতা আপনার দৃষ্টিভঙ্গি পরিবর্তন করবে.
  3. বিপণন দাবির চেয়ে প্রাথমিক উত্স এবং কংক্রিট ইভাল পছন্দ করুন।
  4. একটি কর্ম পথ চিহ্নিত করুন: কর্মজীবন, নীতি, অর্থায়ন, বা দক্ষতা - শুধুমাত্র সচেতনতা নয়।

অন্বেষণ চালিয়ে যান

ফ্রি নিউজলেটার

প্রতিদিনের এআই ব্রিফিং পান

প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।

প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।

নিজেকে পরীক্ষা করুন

Take the AI Safety Institutes Around the World quiz

প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।

কুইজ শুরু করুন

ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

সারা বিশ্বে এআই সেফটি ইনস্টিটিউট কি?

AI নিরাপত্তা প্রতিষ্ঠানগুলি হল সরকারী সংস্থা যারা উন্নত AI মডেলগুলি পরীক্ষা করে এবং অধ্যয়ন করে। তারা সাইবারট্যাক, রাসায়নিক ও জৈবিক অপব্যবহার এবং মানুষের নিয়ন্ত্রণ হারানোর মতো ঝুঁকির উপর ফোকাস করে, প্রায়ই প্রকাশের আগে মডেলগুলি মূল্যায়ন করে। তারা গুরুত্বপূর্ণ কারণ তারা সরকারকে ফ্রন্টিয়ার এআই-তে স্বাধীন প্রযুক্তিগত দক্ষতা দেয়, যদিও বেশিরভাগই আইনি ক্ষমতার পরিবর্তে কোম্পানির স্বেচ্ছাসেবী সহযোগিতার উপর নির্ভর করে।

ফেব্রুয়ারী 2025 এ ইউকে এআই সেফটি ইনস্টিটিউটের কি নামকরণ করা হয়েছিল?

নতুন নাম, এআই সিকিউরিটি ইনস্টিটিউট, সাইবার, রাসায়নিক এবং জৈবিক অপব্যবহার এবং অপরাধের মতো জাতীয়-নিরাপত্তা ঝুঁকির উপর একটি সংকীর্ণ ফোকাস প্রতিফলিত করে।

ইউএস এআই সেফটি ইনস্টিটিউট 2025 সালে কোন সংস্থায় পুনর্গঠিত হয়েছিল?

বাণিজ্য বিভাগ এটিকে CAISI-তে পরিণত করেছে, যা মান, জাতীয়-নিরাপত্তা মূল্যায়ন এবং বিদেশী সিস্টেমের মূল্যায়নের উপর দৃষ্টি নিবদ্ধ করে।

AI সেফটি ইনস্টিটিউটের ইন্টারন্যাশনাল নেটওয়ার্ক কোথায় প্রথম মিটিং করে?

প্রথম বৈঠকটি 2024 সালের নভেম্বরে সান ফ্রান্সিসকোতে অনুষ্ঠিত হয়েছিল।

ইউকে এবং ইউএস ইনস্টিটিউটের সাধারণত মডেল রিলিজের উপর কী আইনি ক্ষমতা থাকে?

তাদের অ্যাক্সেস স্বেচ্ছাসেবী চুক্তি থেকে আসে, এবং তাদের ফলাফলগুলি বাধ্যতামূলক নয় বরং উপদেশমূলক।

পরিদর্শন কি?

পরিদর্শন ডেটাসেট, সমাধানকারী এবং স্কোরারগুলিতে মূল্যায়ন সংগঠিত করে এবং স্যান্ডবক্সড এজেন্ট পরীক্ষা সমর্থন করে।

শিখতে থাকুন

সম্পর্কিত গাইড

এই বিষয়ের জন্য বাছাই করা আরও গাইড

একটি বিনামূল্যে AI শংসাপত্র পানএকটি সংক্ষিপ্ত বিনামূল্যে কোর্স এবং পরীক্ষা. কোনো খরচ নেই, কোনো কার্ড নেই। প্রায় 2.5 ঘন্টা।বিনামূল্যে শুরু করুন →