ওভারভিউ
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক (AI RMF) হল একটি স্বেচ্ছাসেবী ইউএস সরকারের প্লেবুক যাতে জীবনচক্র জুড়ে এর ঝুঁকিগুলি চিহ্নিত করে এবং পরিচালনা করে বিশ্বস্ত এআই তৈরি করা যায়। এটি গুরুত্বপূর্ণ কারণ এটি সংস্থাগুলিকে বাধ্যতামূলক আইন না হয়েই দায়ী এআইকে কার্যকর করার জন্য একটি ব্যবহারিক, নমনীয় কাঠামো দেয়।
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক AI এর সামাজিক এবং শাসন স্তরের অন্তর্গত, যেখানে নীতি, জবাবদিহিতা এবং জনগণের বিশ্বাস দীর্ঘমেয়াদী প্রভাবকে আকার দেয়।
গভীর ডুব
ইউএস ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি 2023 সালের জানুয়ারিতে প্রকাশিত, AI RMF 1.0 স্বেচ্ছাসেবী এবং সেক্টর-অজ্ঞেয়বাদী। এটি চারটি মূল ফাংশনের চারপাশে সংগঠিত: পরিচালনা (এআই ঝুঁকির জন্য একটি সংস্কৃতি এবং নীতি তৈরি করুন), মানচিত্র (প্রসঙ্গটি বুঝুন এবং ঝুঁকি চিহ্নিত করুন), পরিমাপ করুন (মেট্রিক্সের সাথে ঝুঁকিগুলি বিশ্লেষণ করুন এবং ট্র্যাক করুন), এবং পরিচালনা করুন (সেই ঝুঁকিগুলিকে অগ্রাধিকার দিন এবং কাজ করুন)। ফ্রেমওয়ার্ক বিশ্বস্ত AI এর বৈশিষ্ট্যগুলিকে সংজ্ঞায়িত করে: বৈধ এবং নির্ভরযোগ্য, নিরাপদ, সুরক্ষিত এবং স্থিতিস্থাপক, জবাবদিহিমূলক এবং স্বচ্ছ, ব্যাখ্যাযোগ্য এবং ব্যাখ্যাযোগ্য, গোপনীয়তা-বর্ধিত এবং ক্ষতিকারক পক্ষপাতের সাথে ন্যায্য। NIST কংক্রিট প্রস্তাবিত অ্যাকশন সহ একটি সঙ্গী প্লেবুকও প্রকাশ করে এবং 2024 সালে একটি জেনারেটিভ এআই প্রোফাইল যুক্ত করেছে যা বিভ্রান্তি, ডেটা ফাঁস এবং ক্ষতিকারক বিষয়বস্তুর মতো বৃহৎ ভাষার মডেলগুলির জন্য অনন্য ঝুঁকির সমাধান করে।
প্রযুক্তিগত অন্তর্দৃষ্টি
একটি চেকলিস্টের বিপরীতে, RMF বিশ্বস্ততাকে ভারসাম্যপূর্ণ ট্রেড-অফের একটি সেট হিসাবে বিবেচনা করে, যেহেতু একটি সম্পত্তির উন্নতি (বলুন, নির্ভুলতা) অন্যটি (বলুন, গোপনীয়তা বা ন্যায্যতা) হ্রাস করতে পারে। গভর্নর ফাংশন ক্রস-কাটিং এবং অন্য তিনটি ফিড. পরিমাপ রেড-টিমিং এবং মানব মূল্যায়ন সহ পরিমাণগত মেট্রিক্স এবং গুণগত উভয় পদ্ধতি ব্যবহার করার উপর জোর দেয়, কারণ অনেক AI ক্ষতি বিশুদ্ধভাবে সংখ্যাগত ক্যাপচার প্রতিরোধ করে। ফলাফল, নির্দিষ্ট সরঞ্জাম নয়, যা ফ্রেমওয়ার্ক নির্দিষ্ট করে।
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক আয়ত্ত করা
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক (AI RMF) হল একটি স্বেচ্ছাসেবী ইউএস সরকারের প্লেবুক যাতে জীবনচক্র জুড়ে এর ঝুঁকিগুলি চিহ্নিত করে এবং পরিচালনা করে বিশ্বস্ত এআই তৈরি করা যায়। এটি গুরুত্বপূর্ণ কারণ এটি সংস্থাগুলিকে বাধ্যতামূলক আইন না হয়েই দায়ী এআইকে কার্যকর করার জন্য একটি ব্যবহারিক, নমনীয় কাঠামো দেয়। NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক AI এর সামাজিক এবং শাসন স্তরের অন্তর্গত, যেখানে নীতি, জবাবদিহিতা এবং জনগণের বিশ্বাস দীর্ঘমেয়াদী প্রভাবকে আকার দেয়। গভীর বোঝাপড়া তৈরি করতে, NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ককে একটি অপারেটিং মডেল হিসাবে বিবেচনা করুন, একটি একক বৈশিষ্ট্য নয়: পছন্দসই ফলাফলগুলি সংজ্ঞায়িত করুন, অনুমানগুলি স্পষ্ট করুন এবং সিস্টেমটি নির্ভরযোগ্যভাবে কী করতে পারে তা এখনও বিশেষজ্ঞের রায়ের প্রয়োজন থেকে আলাদা করুন৷
অনুশীলনে, NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক ব্যবহার করে শক্তিশালী দলগুলি শাসন, নিরাপত্তা, এবং স্পষ্ট জবাবদিহির কাঠামোর সাথে সক্ষমতা বৃদ্ধি করে। তারা সুস্পষ্ট সাফল্যের মাপকাঠি নথিভুক্ত করে, বাস্তবসম্মত ডেটা এবং কর্মপ্রবাহের বিরুদ্ধে পরীক্ষা করে এবং এককালীন বেঞ্চমার্ক জয়ের পরিবর্তে পর্যবেক্ষিত ব্যর্থতার ধরণগুলির উপর ভিত্তি করে পুনরাবৃত্তি করে। এখানেই তাত্ত্বিক বোঝাপড়া পণ্য, নীতি এবং অপারেশন জুড়ে টেকসই সক্ষমতায় পরিণত হয়।
সামাজিক সিদ্ধান্তগুলি নির্ধারণ করে কে উপকৃত হবে এবং কে ঝুঁকি বহন করবে। একই সময়ে, ব্রড দাবিগুলি প্রমাণ এবং দায়িত্বশীল তদারকির চেয়ে দ্রুত প্রচারিত হতে পারে। সবচেয়ে স্থিতিস্থাপক পদ্ধতি হল প্রশাসনিক শৃঙ্খলার সাথে পরীক্ষার গতিকে একত্রিত করা: পাইলট চালান, প্রমাণ ক্যাপচার করুন, সিদ্ধান্তের লগ প্রকাশ করুন এবং মডেল আচরণ, ব্যবহারকারীর প্রত্যাশা এবং নিয়ন্ত্রক প্রয়োজনীয়তাগুলি বিকশিত হওয়ার সাথে সাথে অবিচ্ছিন্ন সুরক্ষাগুলি আপডেট করুন।
কৌশলগত প্রভাব
সামাজিক সিদ্ধান্তগুলি নির্ধারণ করে কে উপকৃত হবে এবং কে ঝুঁকি বহন করবে।
সামাজিক সিদ্ধান্তগুলি নির্ধারণ করে কে উপকৃত হবে এবং কে ঝুঁকি বহন করবে। উচ্চ-মানের স্থাপনায়, এটি পরিমাপযোগ্য অপারেটিং নিয়ম, মালিকানার সীমানা এবং পুনরাবৃত্ত পর্যালোচনার আচার-অনুষ্ঠানে অনুবাদ করা হয় যাতে দলগুলি অস্পষ্টতার পরিবর্তে আত্মবিশ্বাস বাড়াতে পারে।
সরকারী প্রতিষ্ঠান, স্কুল এবং ব্যবসা সবই স্পষ্ট এআই শাসনের উপর নির্ভর করে।
সরকারী প্রতিষ্ঠান, স্কুল এবং ব্যবসা সবই স্পষ্ট এআই শাসনের উপর নির্ভর করে। উচ্চ-মানের স্থাপনায়, এটি পরিমাপযোগ্য অপারেটিং নিয়ম, মালিকানার সীমানা এবং পুনরাবৃত্ত পর্যালোচনার আচার-অনুষ্ঠানে অনুবাদ করা হয় যাতে দলগুলি অস্পষ্টতার পরিবর্তে আত্মবিশ্বাস বাড়াতে পারে।
ভাল নীতি নকশা দরকারী উদ্ভাবন ব্লক না করে নিরাপত্তা উন্নত করতে পারে।
ভাল নীতি নকশা দরকারী উদ্ভাবন ব্লক না করে নিরাপত্তা উন্নত করতে পারে। উচ্চ-মানের স্থাপনায়, এটি পরিমাপযোগ্য অপারেটিং নিয়ম, মালিকানার সীমানা এবং পুনরাবৃত্ত পর্যালোচনার আচার-অনুষ্ঠানে অনুবাদ করা হয় যাতে দলগুলি অস্পষ্টতার পরিবর্তে আত্মবিশ্বাস বাড়াতে পারে।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি কারিগরি কোম্পানি একটি নতুন নিয়োগকারী AI এর প্রেক্ষাপট ম্যাপ করে, যেকোন কোড জাহাজের আগে প্রভাবিত গোষ্ঠী এবং সম্ভাব্য ক্ষতির তালিকা করে, ম্যাপ ফাংশনটি পূরণ করে।
একটি ব্যাঙ্ক একটি AI গভর্নেন্স কমিটি এবং লিখিত ঝুঁকি নীতিগুলি তার সমস্ত মডেল জুড়ে গভর্নর ফাংশনকে সন্তুষ্ট করার জন্য সেট করে।
একটি দল পরিমাপ ফাংশনের অধীনে একটি চ্যাটবটের ব্যর্থতার মোডগুলি পরিমাপ করতে রেড-টিমিং এবং পক্ষপাত মেট্রিক্স ব্যবহার করে।
একজন স্বাস্থ্য বীমাকারী গ্রাহক-মুখী এলএলএম-এ বিভ্রান্তি এবং ডেটা-লিকেজ ঝুঁকি মোকাবেলা করার জন্য জেনারেটিভ এআই প্রোফাইল অনুসরণ করে।
বাস্তবায়ন নিদর্শন
অনুশীলনে NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক
একটি কারিগরি কোম্পানি একটি নতুন নিয়োগকারী AI এর প্রেক্ষাপট ম্যাপ করে, যেকোন কোড জাহাজের আগে প্রভাবিত গোষ্ঠী এবং সম্ভাব্য ক্ষতির তালিকা করে, ম্যাপ ফাংশনটি পূরণ করে।
একটি কারিগরি কোম্পানি একটি নতুন নিয়োগকারী AI-এর প্রেক্ষাপট ম্যাপ করে, কোনো কোড পাঠানোর আগে প্রভাবিত গোষ্ঠী এবং সম্ভাব্য ক্ষতির তালিকা তৈরি করে, ম্যাপ ফাংশনটি পূরণ করে দলগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ড সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে।
অনুশীলনে NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক
একটি ব্যাঙ্ক একটি AI গভর্নেন্স কমিটি এবং লিখিত ঝুঁকি নীতিগুলি তার সমস্ত মডেল জুড়ে গভর্নর ফাংশনকে সন্তুষ্ট করার জন্য সেট করে।
একটি ব্যাঙ্ক একটি AI গভর্নেন্স কমিটি গঠন করে এবং তার সমস্ত মডেল জুড়ে গভর্নেন্স ফাংশনকে সন্তুষ্ট করার জন্য লিখিত ঝুঁকি নীতিগুলি দলগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ডগুলিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে৷
অনুশীলনে NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক
একটি দল পরিমাপ ফাংশনের অধীনে একটি চ্যাটবটের ব্যর্থতার মোডগুলি পরিমাপ করতে রেড-টিমিং এবং পক্ষপাত মেট্রিক্স ব্যবহার করে।
একটি টিম মেজার ফাংশনের অধীনে চ্যাটবটের ব্যর্থতার মোডগুলি পরিমাপ করতে রেড-টিমিং এবং পক্ষপাত মেট্রিক্স ব্যবহার করে টিমগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ডগুলিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে৷
অনুশীলনে NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক
একজন স্বাস্থ্য বীমাকারী গ্রাহক-মুখী এলএলএম-এ বিভ্রান্তি এবং ডেটা-লিকেজ ঝুঁকি মোকাবেলা করার জন্য জেনারেটিভ এআই প্রোফাইল অনুসরণ করে।
একজন স্বাস্থ্য বীমাকারী গ্রাহক-মুখী LLM টিমের মধ্যে বিভ্রান্তি এবং ডেটা-লিকেজের ঝুঁকি মোকাবেলা করার জন্য জেনারেটিভ AI প্রোফাইল অনুসরণ করে সাধারণত যখন তারা মানের থ্রেশহোল্ডগুলিকে সামনের দিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে মানুষের বৃদ্ধির পথ ধরে রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে।
ঝুঁকি এবং প্রহরী
বিস্তৃত দাবি প্রমাণ এবং দায়িত্বশীল তদারকির চেয়ে দ্রুত প্রচারিত হতে পারে।
দুর্বল শাসন দায়বদ্ধতার ফাঁক রেখে যেতে পারে যখন ক্ষতি হয়।
অ্যাক্সেস, স্বচ্ছতা এবং যাচাই-বাছাই সীমিত হলে ক্ষমতা কেন্দ্রীভূত হতে পারে।
বাস্তবায়ন রোডম্যাপ
প্রভাবিত স্টেকহোল্ডারদের চিহ্নিত করুন এবং ক্ষতিগুলি সবচেয়ে গুরুত্বপূর্ণ।
প্রভাবিত স্টেকহোল্ডারদের চিহ্নিত করুন এবং ক্ষতিগুলি সবচেয়ে গুরুত্বপূর্ণ। প্রতিটি পদক্ষেপকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউট থামান, ব্যবধান বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন।
ডেটা, মডেল এবং সিদ্ধান্তের জন্য স্বচ্ছতার প্রয়োজনীয়তা সেট করুন।
ডেটা, মডেল এবং সিদ্ধান্তের জন্য স্বচ্ছতার প্রয়োজনীয়তা সেট করুন। প্রতিটি পদক্ষেপকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউট থামান, ব্যবধান বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন।
উচ্চ-ঝুঁকির সিস্টেমের জন্য স্বাধীন পর্যালোচনা বা রেড-টিম টেস্টিং যোগ করুন।
উচ্চ-ঝুঁকির সিস্টেমের জন্য স্বাধীন পর্যালোচনা বা রেড-টিম টেস্টিং যোগ করুন। প্রতিটি পদক্ষেপকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউট থামান, ব্যবধান বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন।
ক্ষমতা এবং ব্যবহারের ধরণগুলি বিকশিত হওয়ার সাথে সাথে নীতি এবং নিয়ন্ত্রণগুলি আপডেট করুন৷
ক্ষমতা এবং ব্যবহারের ধরণগুলি বিকশিত হওয়ার সাথে সাথে নীতি এবং নিয়ন্ত্রণগুলি আপডেট করুন৷ প্রতিটি পদক্ষেপকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউট থামান, ব্যবধান বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন।