পরবর্তী আপপরবর্তী গাইড
জেন্ডার শেডস এবং ফেসিয়াল রিকগনিশন বায়াস অডিট
সমাজ
সোসাইটি গাইড
একটি AI অডিট হল একটি AI সিস্টেমের একটি কাঠামোগত মূল্যায়ন, বা এটি পরিচালনাকারী সংস্থা, নির্ভুলতা, ন্যায্যতা, নিরাপত্তা, আইনি প্রয়োজনীয়তা বা শাসনের মানদণ্ডের মতো সংজ্ঞায়িত মানদণ্ডের বিপরীতে, অভ্যন্তরীণভাবে, স্বাধীন তৃতীয় পক্ষ দ্বারা বা নিয়ন্ত্রকের আদেশের অধীনে পরিচালিত হয়।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
তৃতীয় পক্ষের নিশ্চয়তা গুরুত্বপূর্ণ কারণ এআই সিস্টেম সম্পর্কে দাবিগুলি যাচাই করা বাইরের লোকদের পক্ষে কঠিন, এবং নিরীক্ষাগুলি নিয়ন্ত্রক, ক্রেতা এবং জনসাধারণ তাদের পরীক্ষা করার একটি প্রধান উপায় হয়ে উঠছে।
এআই অডিটগুলি কে করে এবং তারা কী পরীক্ষা করে তার মধ্যে পার্থক্য রয়েছে। অভ্যন্তরীণ নিরীক্ষা প্রতিষ্ঠান নিজেই পরিচালনা করে, আদর্শভাবে নির্মাতাদের থেকে আলাদা একটি দল দ্বারা; রাজি এবং সহকর্মীদের 2020 ফ্রেমওয়ার্ক একটি সিস্টেমের বিকাশ জুড়ে একটি শেষ থেকে শেষ অভ্যন্তরীণ অডিট প্রক্রিয়ার প্রস্তাব করেছে। বহিরাগত অডিট বহিরাগতদের থেকে আসে. কিছু তথ্য এবং কোড অ্যাক্সেস সহ সহযোগিতামূলক; অন্যরা প্রতিপক্ষ, যেমন সাংবাদিক বা গবেষকরা একটি সিস্টেমের পাবলিক ইন্টারফেসের মাধ্যমে পরীক্ষা করছেন। নিয়ন্ত্রক অডিট প্রয়োজন বা আইনের অধীনে সঞ্চালিত হয়. পদ্ধতি তিনটি বিস্তৃত গ্রুপে পড়ে। শাসন বা প্রক্রিয়া নিরীক্ষা নীতি, ডকুমেন্টেশন, ভূমিকা এবং ঝুঁকি ব্যবস্থাপনা চেক. প্রযুক্তিগত নিরীক্ষা মডেলটি পরীক্ষা করে: উপগোষ্ঠী জুড়ে কর্মক্ষমতা, দৃঢ়তা, নিরাপত্তা, এবং এজ কেসগুলিতে আচরণ, কখনও কখনও রেড টিমিং সহ। ফলাফল নিরীক্ষা বাস্তব-বিশ্বের প্রভাবের দিকে নজর দেয়, উদাহরণস্বরূপ গ্রুপ জুড়ে সিদ্ধান্তের তুলনা করা বা সুপারিশ সিস্টেমের তদন্তের জন্য সক-পুতুল অ্যাকাউন্ট ব্যবহার করা। সামঞ্জস্য মূল্যায়ন একটি সম্পর্কিত আইনি ধারণা। EU AI আইনের অধীনে, উচ্চ-ঝুঁকির সিস্টেমের প্রদানকারীদেরকে অবশ্যই বাজারে রাখার আগে সম্মতি দেখাতে হবে। বেশিরভাগ স্বতন্ত্র উচ্চ-ঝুঁকির ব্যবহারের জন্য এটি একটি অভ্যন্তরীণ নিয়ন্ত্রণ পদ্ধতি, যখন কিছু বায়োমেট্রিক সিস্টেম এবং AI ইতিমধ্যেই EU নিরাপত্তা আইন দ্বারা আচ্ছাদিত পণ্যগুলির মধ্যে একটি বিজ্ঞাপিত সংস্থা জড়িত হতে পারে। নিউ ইয়র্ক সিটির স্থানীয় আইন 144 স্বয়ংক্রিয় কর্মসংস্থান সিদ্ধান্তের সরঞ্জামগুলির জন্য স্বাধীন পক্ষপাতের অডিটের প্রয়োজন, এবং EU ডিজিটাল পরিষেবা আইনের জন্য খুব বড় অনলাইন প্ল্যাটফর্মগুলির স্বাধীন অডিট প্রয়োজন। স্বাধীনতা হচ্ছে ক্রমাগত দুর্বলতা। নিরীক্ষকদের সাধারণত অডিট করা কোম্পানির দ্বারা অর্থ প্রদান করা হয়, তারা সীমিত অ্যাক্সেস পেতে পারে এবং প্রায়শই সম্মত মান ছাড়াই কাজ করে যা পাস হিসাবে গণ্য হয়। সমালোচকরা অডিট-ওয়াশিং সম্পর্কে সতর্ক করে, যেখানে একটি সংকীর্ণ নিরীক্ষা স্বাস্থ্যের একটি পরিষ্কার বিল হিসাবে উপস্থাপন করা হয়। একটি সাধারণ ভুল ধারণা হল যে একটি নিরীক্ষা একটি সিস্টেমকে সাধারণভাবে নিরাপদ বা ন্যায্য হিসাবে প্রত্যয়িত করে; এটি শুধুমাত্র পরীক্ষা করা মানদণ্ড, সুযোগ এবং সময়কালের সাথে কথা বলে।
নিউ ইয়র্ক সিটির একজন নিয়োগকর্তা একটি স্বয়ংক্রিয় জীবনবৃত্তান্ত স্ক্রীনিং টুল ব্যবহার করে একটি স্বাধীন পক্ষপাতমূলক অডিট কমিশন করেন যা শহরের স্থানীয় আইন 144 অনুযায়ী লিঙ্গ এবং জাতি বা জাতিগত বিভাগ দ্বারা নির্বাচন হারের প্রভাবের অনুপাতের প্রতিবেদন করে।
গবেষকরা মুখের একটি সুষম সেট সহ বাণিজ্যিক মুখ বিশ্লেষণ পরিষেবাগুলি জিজ্ঞাসা করেন এবং ত্বকের ধরন এবং লিঙ্গ অনুসারে ত্রুটির হার প্রকাশ করেন, একটি বাহ্যিক নিরীক্ষা যা বিক্রেতাদের সহযোগিতা ছাড়াই করা হয়, যেমন 2018 জেন্ডার শেডস অধ্যয়ন৷
একটি সফ্টওয়্যার কোম্পানি একটি স্বীকৃত সার্টিফিকেশন বডি থেকে ISO/IEC 42001 এর বিপরীতে তার AI ম্যানেজমেন্ট সিস্টেমের সার্টিফিকেশন চায় যাতে এন্টারপ্রাইজ গ্রাহকরা দেখতে পারে যে এর পরিচালনা নিয়ন্ত্রণগুলি পরীক্ষা করা হয়েছে।
EU-তে একটি খুব বড় অনলাইন প্ল্যাটফর্ম ডিজিটাল পরিষেবা আইনের অধীনে তার সুপারিশকারী সিস্টেম সহ ঝুঁকি ব্যবস্থাপনার একটি বার্ষিক স্বাধীন অডিট করে।
অ্যাকাউন্টিং ফার্ম, বিশেষজ্ঞ স্টার্টআপ, টেস্টিং ল্যাব এবং সার্টিফিকেশন সংস্থাগুলি সহ একটি AI নিশ্চয়তা শিল্প তৈরি হচ্ছে। ম্যানেজমেন্ট সিস্টেমের জন্য আইএসও/আইইসি 42001 এবং তাদের প্রত্যয়িত সংস্থাগুলির জন্য সম্পর্কিত মানগুলির মতো স্ট্যান্ডার্ডের কাজ, অডিটগুলিকে আরও তুলনামূলক করে তোলার লক্ষ্য। ইউকে সহ সরকারগুলি বাজার হিসাবে AI নিশ্চয়তা বৃদ্ধির পরিকল্পনা প্রকাশ করেছে। মূল অমীমাংসিত সমস্যাগুলি হল অডিটর স্বীকৃতি, বহিরাগত গবেষকদের জন্য মডেল ইন্টারনালগুলিতে অ্যাক্সেস এবং যারা স্বার্থের দ্বন্দ্ব তৈরি না করে অর্থ প্রদান করে। সাধারণ-উদ্দেশ্যের মডেলগুলির অডিটগুলি বিশেষত অপরিপক্ক, কারণ তাদের ব্যবহার উন্মুক্ত। নিকটবর্তী মেয়াদে একটি একক সম্মত পদ্ধতির পরিবর্তে ধীরে ধীরে পেশাদারিকরণের প্রত্যাশা করুন।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
একটি AI অডিট হল একটি AI সিস্টেমের একটি কাঠামোগত মূল্যায়ন, বা এটি পরিচালনাকারী সংস্থা, নির্ভুলতা, ন্যায্যতা, নিরাপত্তা, আইনি প্রয়োজনীয়তা বা শাসনের মানদণ্ডের মতো সংজ্ঞায়িত মানদণ্ডের বিপরীতে, অভ্যন্তরীণভাবে, স্বাধীন তৃতীয় পক্ষ দ্বারা বা নিয়ন্ত্রকের আদেশের অধীনে পরিচালিত হয়। তৃতীয় পক্ষের নিশ্চয়তা গুরুত্বপূর্ণ কারণ এআই সিস্টেম সম্পর্কে দাবিগুলি যাচাই করা বাইরের লোকদের পক্ষে কঠিন, এবং নিরীক্ষাগুলি নিয়ন্ত্রক, ক্রেতা এবং জনসাধারণ তাদের পরীক্ষা করার একটি প্রধান উপায় হয়ে উঠছে।
প্রতিকূল বাহ্যিক নিরীক্ষা বাইরের লোকদের দ্বারা করা হয়, যেমন সাংবাদিক বা গবেষকরা, সহযোগিতা বা বিশেষ সুবিধা ছাড়াই একটি সিস্টেমের তদন্ত করে।
প্রসেস অডিট সরাসরি মডেল পরীক্ষা করার পরিবর্তে সংস্থা কীভাবে এআই পরিচালনা করে তা পরীক্ষা করে।
স্থানীয় আইন 144 জনসংখ্যার বিভাগ দ্বারা প্রভাব অনুপাত সহ স্বাধীন পক্ষপাত নিরীক্ষার প্রয়োজন।
প্রভাবের অনুপাত প্রতিটি বিভাগের নির্বাচনের হারকে সবচেয়ে নির্বাচিত বিভাগের সাথে তুলনা করে।
বেশিরভাগ স্বতন্ত্র উচ্চ-ঝুঁকির ব্যবহারগুলি অভ্যন্তরীণ নিয়ন্ত্রণ অনুসরণ করে, যখন নির্দিষ্ট বায়োমেট্রিক সিস্টেম এবং নিয়ন্ত্রিত পণ্যগুলিতে একটি বিজ্ঞপ্তি সংস্থা জড়িত থাকতে পারে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
জেন্ডার শেডস এবং ফেসিয়াল রিকগনিশন বায়াস অডিট
সমাজ