NIST AI ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক (AI RMF) হল একটি স্বেচ্ছাসেবী ইউএস সরকারের প্লেবুক যাতে জীবনচক্র জুড়ে এর ঝুঁকিগুলি চিহ্নিত করে এবং পরিচালনা করে বিশ্বস্ত এআই তৈরি করা যায়।
ওভারভিউ
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
গভীর ডুব
ইউএস ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি 2023 সালের জানুয়ারিতে প্রকাশিত, AI RMF 1.0 স্বেচ্ছাসেবী এবং সেক্টর-অজ্ঞেয়বাদী। এটি চারটি মূল ফাংশনের চারপাশে সংগঠিত: পরিচালনা (এআই ঝুঁকির জন্য একটি সংস্কৃতি এবং নীতি তৈরি করুন), মানচিত্র (প্রসঙ্গটি বুঝুন এবং ঝুঁকি চিহ্নিত করুন), পরিমাপ করুন (মেট্রিক্সের সাথে ঝুঁকিগুলি বিশ্লেষণ করুন এবং ট্র্যাক করুন), এবং পরিচালনা করুন (সেই ঝুঁকিগুলিকে অগ্রাধিকার দিন এবং কাজ করুন)। ফ্রেমওয়ার্ক বিশ্বস্ত AI এর বৈশিষ্ট্যগুলিকে সংজ্ঞায়িত করে: বৈধ এবং নির্ভরযোগ্য, নিরাপদ, সুরক্ষিত এবং স্থিতিস্থাপক, জবাবদিহিমূলক এবং স্বচ্ছ, ব্যাখ্যাযোগ্য এবং ব্যাখ্যাযোগ্য, গোপনীয়তা-বর্ধিত এবং ক্ষতিকারক পক্ষপাতের সাথে ন্যায্য। NIST কংক্রিট প্রস্তাবিত অ্যাকশন সহ একটি সঙ্গী প্লেবুকও প্রকাশ করে এবং 2024 সালে একটি জেনারেটিভ এআই প্রোফাইল যুক্ত করেছে যা বিভ্রান্তি, ডেটা ফাঁস এবং ক্ষতিকারক বিষয়বস্তুর মতো বৃহৎ ভাষার মডেলগুলির জন্য অনন্য ঝুঁকির সমাধান করে।
প্রযুক্তিগত অন্তর্দৃষ্টি
একটি চেকলিস্টের বিপরীতে, RMF বিশ্বস্ততাকে ভারসাম্যপূর্ণ ট্রেড-অফের একটি সেট হিসাবে বিবেচনা করে, যেহেতু একটি সম্পত্তির উন্নতি (বলুন, নির্ভুলতা) অন্যটি (বলুন, গোপনীয়তা বা ন্যায্যতা) হ্রাস করতে পারে। গভর্নর ফাংশন ক্রস-কাটিং এবং অন্য তিনটি ফিড. পরিমাপ রেড-টিমিং এবং মানব মূল্যায়ন সহ পরিমাণগত মেট্রিক্স এবং গুণগত উভয় পদ্ধতি ব্যবহার করার উপর জোর দেয়, কারণ অনেক AI ক্ষতি বিশুদ্ধভাবে সংখ্যাগত ক্যাপচার প্রতিরোধ করে। ফলাফল, নির্দিষ্ট সরঞ্জাম নয়, যা ফ্রেমওয়ার্ক নির্দিষ্ট করে।
কৌশলগত প্রভাব
ঝুঁকি এবং নিরাপত্তা
বিপর্যয়কর এবং দৈনন্দিন এআই ক্ষতি উভয়ই নির্ভর করে কে ঝুঁকি বুঝতে পারে এবং কে কাজ করতে পারে।
সুস্পষ্ট সিদ্ধান্ত
জনসাধারণের এবং পেশাদার সাক্ষরতা গঠন করে যে শক্তিশালী নিরাপত্তা নীতি রাজনৈতিকভাবে সম্ভব কিনা।
হাইপের মাধ্যমে কাটা
স্পষ্ট ব্যাখ্যা হাইপ, ল্যাব পিআর, এবং অস্পষ্ট নীতিশাস্ত্র থিয়েটার দ্বারা ক্যাপচার হ্রাস করে।
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্কের ভবিষ্যত
আশা করুন যে RMF একটি সাধারণ রেফারেন্স বেসলাইন হয়ে উঠবে যা EU AI আইন এবং উদীয়মান মার্কিন রাষ্ট্রীয় আইনের মতো বাধ্যতামূলক ব্যবস্থার সাথে মানচিত্র তৈরি করে, বহু-অধিক্ষেত্রের সম্মতি সহজ করে। NIST নির্দিষ্ট প্রসঙ্গ এবং প্রযুক্তির জন্য প্রোফাইল প্রকাশ করে চলেছে, যার মধ্যে জেনারেটিভ AI প্রধান ফোকাস। ফেডারেল প্রকিউরমেন্ট এবং এজেন্সি নির্দেশিকা ক্রমবর্ধমানভাবে RMF-এর দিকে নির্দেশ করে, এবং ISO/IEC 42001-এর মতো মানগুলির ক্রসওয়াকগুলি ক্রমবর্ধমান হচ্ছে, এটি স্বেচ্ছাসেবী থাকা সত্ত্বেও এটি বিশ্বব্যাপী AI গভর্নেন্সের জন্য একটি সংযোগকারী টিস্যু তৈরি করছে।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি কারিগরি কোম্পানি একটি নতুন নিয়োগকারী AI এর প্রেক্ষাপট ম্যাপ করে, যেকোন কোড জাহাজের আগে প্রভাবিত গোষ্ঠী এবং সম্ভাব্য ক্ষতির তালিকা করে, ম্যাপ ফাংশনটি পূরণ করে।
একটি ব্যাঙ্ক একটি AI গভর্নেন্স কমিটি এবং লিখিত ঝুঁকি নীতিগুলি তার সমস্ত মডেল জুড়ে গভর্নর ফাংশনকে সন্তুষ্ট করার জন্য সেট করে।
একটি দল পরিমাপ ফাংশনের অধীনে একটি চ্যাটবটের ব্যর্থতার মোডগুলি পরিমাপ করতে রেড-টিমিং এবং পক্ষপাত মেট্রিক্স ব্যবহার করে।
একজন স্বাস্থ্য বীমাকারী গ্রাহক-মুখী এলএলএম-এ বিভ্রান্তি এবং ডেটা-লিকেজ ঝুঁকি মোকাবেলা করার জন্য জেনারেটিভ এআই প্রোফাইল অনুসরণ করে।
ঝুঁকি এবং প্রহরী
সক্ষমতা যৌগিক অবস্থায় অস্তিত্বগত ঝুঁকিকে সাই-ফাই হিসাবে বিবেচনা করা।
উচ্চ স্বায়ত্তশাসনের অধীনে প্রান্তিককরণের সাথে বিভ্রান্তিকর পৃষ্ঠ পণ্য নিরাপত্তা।
অ-ইংরেজি এবং অ-বিশেষজ্ঞ শ্রোতাদের শুধুমাত্র নিম্ন-মানের উত্স সহ ত্যাগ করা।
বাস্তবায়ন রোডম্যাপ
পৃথক পণ্য ক্ষতি, অপব্যবহার, এবং ক্ষতি-অব-নিয়ন্ত্রণ/বিভ্রান্তির ঝুঁকি।
জিজ্ঞাসা করুন কি প্রমাণ সময়সীমা এবং তীব্রতা আপনার দৃষ্টিভঙ্গি পরিবর্তন করবে.
বিপণন দাবির চেয়ে প্রাথমিক উত্স এবং কংক্রিট ইভাল পছন্দ করুন।
একটি কর্ম পথ চিহ্নিত করুন: কর্মজীবন, নীতি, অর্থায়ন, বা দক্ষতা - শুধুমাত্র সচেতনতা নয়।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
এআই পণ্য ব্যবস্থাপনা
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is NIST AI Risk Management Framework?
NIST AI রিস্ক ম্যানেজমেন্ট ফ্রেমওয়ার্ক (AI RMF) হল একটি স্বেচ্ছাসেবী ইউএস সরকারের প্লেবুক যাতে জীবনচক্র জুড়ে এর ঝুঁকিগুলি চিহ্নিত করে এবং পরিচালনা করে বিশ্বস্ত এআই তৈরি করা যায়। এটি গুরুত্বপূর্ণ কারণ এটি সংস্থাগুলিকে বাধ্যতামূলক আইন না হয়েই দায়ী এআইকে কার্যকর করার জন্য একটি ব্যবহারিক, নমনীয় কাঠামো দেয়।
NIST AI RMF এর চারটি মূল কাজ কি কি?
কাঠামোটি গভর্ন, ম্যাপ, মেজার এবং ম্যানেজের চারপাশে তৈরি করা হয়েছে, যেখানে গভর্ন অন্যদের খাওয়ানো একটি ক্রস-কাটিং ফাংশন হিসাবে।
NIST AI RMF এর সাথে সম্মতি আইনত প্রয়োজনীয়?
AI RMF স্পষ্টভাবে স্বেচ্ছাসেবী এবং সেক্টর-অজ্ঞেয়বাদী, প্রয়োগযোগ্য আদেশের পরিবর্তে নির্দেশিকা প্রদান করে।
কোন ফাংশনটিকে অন্য তিনটিতে ক্রস-কাটিং এবং খাওয়ানো হিসাবে বর্ণনা করা হয়েছে?
গভর্নমেন্ট সেই সংস্কৃতি, নীতি এবং জবাবদিহির কাঠামো প্রতিষ্ঠা করে যা মানচিত্র, পরিমাপ এবং পরিচালনা করে।
কেন RMF বিশ্বাসযোগ্যতাকে ট্রেড-অফের সেট হিসাবে বিবেচনা করে?
একটি বৈশিষ্ট্যের লাভ, যেমন নির্ভুলতা, অন্যের মূল্যে আসতে পারে, যেমন গোপনীয়তা বা ন্যায্যতা, তাই তাদের অবশ্যই ভারসাম্যপূর্ণ হতে হবে।
2024 সালে বড় ভাষার মডেলগুলিকে সম্বোধন করার জন্য NIST কাঠামোতে কী যুক্ত করেছে?
2024 জেনারেটিভ এআই প্রোফাইল এলএলএম-এর জন্য অনন্য ঝুঁকিগুলিকে সম্বোধন করে, যেমন গুঞ্জন, ডেটা ফাঁস এবং ক্ষতিকারক বিষয়বস্তু।