সোসাইটি গাইড

এআই অডিট এবং তৃতীয় পক্ষের নিশ্চয়তা

একটি AI অডিট হল একটি AI সিস্টেমের একটি কাঠামোগত মূল্যায়ন, বা এটি পরিচালনাকারী সংস্থা, নির্ভুলতা, ন্যায্যতা, নিরাপত্তা, আইনি প্রয়োজনীয়তা বা শাসনের মানদণ্ডের মতো সংজ্ঞায়িত মানদণ্ডের বিপরীতে, অভ্যন্তরীণভাবে, স্বাধীন তৃতীয় পক্ষ দ্বারা বা নিয়ন্ত্রকের আদেশের অধীনে পরিচালিত হয়।

এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min

এই পৃষ্ঠায়4 মিনিট পড়া
  1. ওভারভিউ
  2. গভীর ডুব
  3. বাস্তব-বিশ্ব বাস্তবায়ন
  4. এআই অডিট এবং তৃতীয় পক্ষের আশ্বাসের ভবিষ্যত
  5. এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
  6. অন্বেষণ চালিয়ে যান
  7. প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ওভারভিউ

তৃতীয় পক্ষের নিশ্চয়তা গুরুত্বপূর্ণ কারণ এআই সিস্টেম সম্পর্কে দাবিগুলি যাচাই করা বাইরের লোকদের পক্ষে কঠিন, এবং নিরীক্ষাগুলি নিয়ন্ত্রক, ক্রেতা এবং জনসাধারণ তাদের পরীক্ষা করার একটি প্রধান উপায় হয়ে উঠছে।

গভীর ডুব

এআই অডিটগুলি কে করে এবং তারা কী পরীক্ষা করে তার মধ্যে পার্থক্য রয়েছে। অভ্যন্তরীণ নিরীক্ষা প্রতিষ্ঠান নিজেই পরিচালনা করে, আদর্শভাবে নির্মাতাদের থেকে আলাদা একটি দল দ্বারা; রাজি এবং সহকর্মীদের 2020 ফ্রেমওয়ার্ক একটি সিস্টেমের বিকাশ জুড়ে একটি শেষ থেকে শেষ অভ্যন্তরীণ অডিট প্রক্রিয়ার প্রস্তাব করেছে। বহিরাগত অডিট বহিরাগতদের থেকে আসে. কিছু তথ্য এবং কোড অ্যাক্সেস সহ সহযোগিতামূলক; অন্যরা প্রতিপক্ষ, যেমন সাংবাদিক বা গবেষকরা একটি সিস্টেমের পাবলিক ইন্টারফেসের মাধ্যমে পরীক্ষা করছেন। নিয়ন্ত্রক অডিট প্রয়োজন বা আইনের অধীনে সঞ্চালিত হয়. পদ্ধতি তিনটি বিস্তৃত গ্রুপে পড়ে। শাসন ​​বা প্রক্রিয়া নিরীক্ষা নীতি, ডকুমেন্টেশন, ভূমিকা এবং ঝুঁকি ব্যবস্থাপনা চেক. প্রযুক্তিগত নিরীক্ষা মডেলটি পরীক্ষা করে: উপগোষ্ঠী জুড়ে কর্মক্ষমতা, দৃঢ়তা, নিরাপত্তা, এবং এজ কেসগুলিতে আচরণ, কখনও কখনও রেড টিমিং সহ। ফলাফল নিরীক্ষা বাস্তব-বিশ্বের প্রভাবের দিকে নজর দেয়, উদাহরণস্বরূপ গ্রুপ জুড়ে সিদ্ধান্তের তুলনা করা বা সুপারিশ সিস্টেমের তদন্তের জন্য সক-পুতুল অ্যাকাউন্ট ব্যবহার করা। সামঞ্জস্য মূল্যায়ন একটি সম্পর্কিত আইনি ধারণা। EU AI আইনের অধীনে, উচ্চ-ঝুঁকির সিস্টেমের প্রদানকারীদেরকে অবশ্যই বাজারে রাখার আগে সম্মতি দেখাতে হবে। বেশিরভাগ স্বতন্ত্র উচ্চ-ঝুঁকির ব্যবহারের জন্য এটি একটি অভ্যন্তরীণ নিয়ন্ত্রণ পদ্ধতি, যখন কিছু বায়োমেট্রিক সিস্টেম এবং AI ইতিমধ্যেই EU নিরাপত্তা আইন দ্বারা আচ্ছাদিত পণ্যগুলির মধ্যে একটি বিজ্ঞাপিত সংস্থা জড়িত হতে পারে। নিউ ইয়র্ক সিটির স্থানীয় আইন 144 স্বয়ংক্রিয় কর্মসংস্থান সিদ্ধান্তের সরঞ্জামগুলির জন্য স্বাধীন পক্ষপাতের অডিটের প্রয়োজন, এবং EU ডিজিটাল পরিষেবা আইনের জন্য খুব বড় অনলাইন প্ল্যাটফর্মগুলির স্বাধীন অডিট প্রয়োজন। স্বাধীনতা হচ্ছে ক্রমাগত দুর্বলতা। নিরীক্ষকদের সাধারণত অডিট করা কোম্পানির দ্বারা অর্থ প্রদান করা হয়, তারা সীমিত অ্যাক্সেস পেতে পারে এবং প্রায়শই সম্মত মান ছাড়াই কাজ করে যা পাস হিসাবে গণ্য হয়। সমালোচকরা অডিট-ওয়াশিং সম্পর্কে সতর্ক করে, যেখানে একটি সংকীর্ণ নিরীক্ষা স্বাস্থ্যের একটি পরিষ্কার বিল হিসাবে উপস্থাপন করা হয়। একটি সাধারণ ভুল ধারণা হল যে একটি নিরীক্ষা একটি সিস্টেমকে সাধারণভাবে নিরাপদ বা ন্যায্য হিসাবে প্রত্যয়িত করে; এটি শুধুমাত্র পরীক্ষা করা মানদণ্ড, সুযোগ এবং সময়কালের সাথে কথা বলে।

বাস্তব-বিশ্ব বাস্তবায়ন

নিউ ইয়র্ক সিটির একজন নিয়োগকর্তা একটি স্বয়ংক্রিয় জীবনবৃত্তান্ত স্ক্রীনিং টুল ব্যবহার করে একটি স্বাধীন পক্ষপাতমূলক অডিট কমিশন করেন যা শহরের স্থানীয় আইন 144 অনুযায়ী লিঙ্গ এবং জাতি বা জাতিগত বিভাগ দ্বারা নির্বাচন হারের প্রভাবের অনুপাতের প্রতিবেদন করে।

গবেষকরা মুখের একটি সুষম সেট সহ বাণিজ্যিক মুখ বিশ্লেষণ পরিষেবাগুলি জিজ্ঞাসা করেন এবং ত্বকের ধরন এবং লিঙ্গ অনুসারে ত্রুটির হার প্রকাশ করেন, একটি বাহ্যিক নিরীক্ষা যা বিক্রেতাদের সহযোগিতা ছাড়াই করা হয়, যেমন 2018 জেন্ডার শেডস অধ্যয়ন৷

একটি সফ্টওয়্যার কোম্পানি একটি স্বীকৃত সার্টিফিকেশন বডি থেকে ISO/IEC 42001 এর বিপরীতে তার AI ম্যানেজমেন্ট সিস্টেমের সার্টিফিকেশন চায় যাতে এন্টারপ্রাইজ গ্রাহকরা দেখতে পারে যে এর পরিচালনা নিয়ন্ত্রণগুলি পরীক্ষা করা হয়েছে।

EU-তে একটি খুব বড় অনলাইন প্ল্যাটফর্ম ডিজিটাল পরিষেবা আইনের অধীনে তার সুপারিশকারী সিস্টেম সহ ঝুঁকি ব্যবস্থাপনার একটি বার্ষিক স্বাধীন অডিট করে।

এআই অডিট এবং তৃতীয় পক্ষের আশ্বাসের ভবিষ্যত

অ্যাকাউন্টিং ফার্ম, বিশেষজ্ঞ স্টার্টআপ, টেস্টিং ল্যাব এবং সার্টিফিকেশন সংস্থাগুলি সহ একটি AI নিশ্চয়তা শিল্প তৈরি হচ্ছে। ম্যানেজমেন্ট সিস্টেমের জন্য আইএসও/আইইসি 42001 এবং তাদের প্রত্যয়িত সংস্থাগুলির জন্য সম্পর্কিত মানগুলির মতো স্ট্যান্ডার্ডের কাজ, অডিটগুলিকে আরও তুলনামূলক করে তোলার লক্ষ্য। ইউকে সহ সরকারগুলি বাজার হিসাবে AI নিশ্চয়তা বৃদ্ধির পরিকল্পনা প্রকাশ করেছে। মূল অমীমাংসিত সমস্যাগুলি হল অডিটর স্বীকৃতি, বহিরাগত গবেষকদের জন্য মডেল ইন্টারনালগুলিতে অ্যাক্সেস এবং যারা স্বার্থের দ্বন্দ্ব তৈরি না করে অর্থ প্রদান করে। সাধারণ-উদ্দেশ্যের মডেলগুলির অডিটগুলি বিশেষত অপরিপক্ক, কারণ তাদের ব্যবহার উন্মুক্ত। নিকটবর্তী মেয়াদে একটি একক সম্মত পদ্ধতির পরিবর্তে ধীরে ধীরে পেশাদারিকরণের প্রত্যাশা করুন।

এটাকে বাস্তবে প্রয়োগ করা হচ্ছে

কেন এটা গুরুত্বপূর্ণ

  • ঝুঁকি এবং নিরাপত্তা. বিপর্যয়কর এবং দৈনন্দিন এআই ক্ষতি উভয়ই নির্ভর করে কে ঝুঁকি বুঝতে পারে এবং কে কাজ করতে পারে।
  • সুস্পষ্ট সিদ্ধান্ত. জনসাধারণের এবং পেশাদার সাক্ষরতা গঠন করে যে শক্তিশালী নিরাপত্তা নীতি রাজনৈতিকভাবে সম্ভব কিনা।
  • হাইপের মাধ্যমে কাটা. স্পষ্ট ব্যাখ্যা হাইপ, ল্যাব পিআর, এবং অস্পষ্ট নীতিশাস্ত্র থিয়েটার দ্বারা ক্যাপচার হ্রাস করে।

জন্য সতর্ক

  • সক্ষমতা যৌগিক অবস্থায় অস্তিত্বগত ঝুঁকিকে সাই-ফাই হিসাবে বিবেচনা করা।
  • উচ্চ স্বায়ত্তশাসনের অধীনে প্রান্তিককরণের সাথে বিভ্রান্তিকর পৃষ্ঠ পণ্য নিরাপত্তা।
  • অ-ইংরেজি এবং অ-বিশেষজ্ঞ শ্রোতাদের শুধুমাত্র নিম্ন-মানের উত্স সহ ত্যাগ করা।

পরবর্তী পদক্ষেপ

  1. পৃথক পণ্য ক্ষতি, অপব্যবহার, এবং ক্ষতি-অব-নিয়ন্ত্রণ/বিভ্রান্তির ঝুঁকি।
  2. জিজ্ঞাসা করুন কি প্রমাণ সময়সীমা এবং তীব্রতা আপনার দৃষ্টিভঙ্গি পরিবর্তন করবে.
  3. বিপণন দাবির চেয়ে প্রাথমিক উত্স এবং কংক্রিট ইভাল পছন্দ করুন।
  4. একটি কর্ম পথ চিহ্নিত করুন: কর্মজীবন, নীতি, অর্থায়ন, বা দক্ষতা - শুধুমাত্র সচেতনতা নয়।

অন্বেষণ চালিয়ে যান

ফ্রি নিউজলেটার

প্রতিদিনের এআই ব্রিফিং পান

প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।

প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।

নিজেকে পরীক্ষা করুন

Take the AI Audits and Third-Party Assurance quiz

প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।

কুইজ শুরু করুন

ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

এআই অডিট এবং তৃতীয় পক্ষের নিশ্চয়তা কী?

একটি AI অডিট হল একটি AI সিস্টেমের একটি কাঠামোগত মূল্যায়ন, বা এটি পরিচালনাকারী সংস্থা, নির্ভুলতা, ন্যায্যতা, নিরাপত্তা, আইনি প্রয়োজনীয়তা বা শাসনের মানদণ্ডের মতো সংজ্ঞায়িত মানদণ্ডের বিপরীতে, অভ্যন্তরীণভাবে, স্বাধীন তৃতীয় পক্ষ দ্বারা বা নিয়ন্ত্রকের আদেশের অধীনে পরিচালিত হয়। তৃতীয় পক্ষের নিশ্চয়তা গুরুত্বপূর্ণ কারণ এআই সিস্টেম সম্পর্কে দাবিগুলি যাচাই করা বাইরের লোকদের পক্ষে কঠিন, এবং নিরীক্ষাগুলি নিয়ন্ত্রক, ক্রেতা এবং জনসাধারণ তাদের পরীক্ষা করার একটি প্রধান উপায় হয়ে উঠছে।

কোনটি একটি প্রতিপক্ষ বহিরাগত নিরীক্ষা বর্ণনা করে?

প্রতিকূল বাহ্যিক নিরীক্ষা বাইরের লোকদের দ্বারা করা হয়, যেমন সাংবাদিক বা গবেষকরা, সহযোগিতা বা বিশেষ সুবিধা ছাড়াই একটি সিস্টেমের তদন্ত করে।

একটি শাসন বা প্রক্রিয়া নিরীক্ষা প্রধানত কি পরীক্ষা করে?

প্রসেস অডিট সরাসরি মডেল পরীক্ষা করার পরিবর্তে সংস্থা কীভাবে এআই পরিচালনা করে তা পরীক্ষা করে।

NYC স্থানীয় আইন 144 স্বয়ংক্রিয় কর্মসংস্থান সিদ্ধান্তের সরঞ্জামগুলির জন্য কী প্রয়োজন?

স্থানীয় আইন 144 জনসংখ্যার বিভাগ দ্বারা প্রভাব অনুপাত সহ স্বাধীন পক্ষপাত নিরীক্ষার প্রয়োজন।

NYC পক্ষপাত নিরীক্ষায় ব্যবহৃত প্রভাবের অনুপাত কীভাবে গণনা করা হয়?

প্রভাবের অনুপাত প্রতিটি বিভাগের নির্বাচনের হারকে সবচেয়ে নির্বাচিত বিভাগের সাথে তুলনা করে।

EU AI আইনের অধীনে, বেশিরভাগ স্বতন্ত্র উচ্চ-ঝুঁকির সিস্টেমগুলি কীভাবে সামঞ্জস্যপূর্ণ মূল্যায়নের মধ্য দিয়ে যায়?

বেশিরভাগ স্বতন্ত্র উচ্চ-ঝুঁকির ব্যবহারগুলি অভ্যন্তরীণ নিয়ন্ত্রণ অনুসরণ করে, যখন নির্দিষ্ট বায়োমেট্রিক সিস্টেম এবং নিয়ন্ত্রিত পণ্যগুলিতে একটি বিজ্ঞপ্তি সংস্থা জড়িত থাকতে পারে।

শিখতে থাকুন

সম্পর্কিত গাইড

এই বিষয়ের জন্য বাছাই করা আরও গাইড

একটি বিনামূল্যে AI শংসাপত্র পানএকটি সংক্ষিপ্ত বিনামূল্যে কোর্স এবং পরীক্ষা. কোনো খরচ নেই, কোনো কার্ড নেই। প্রায় 2.5 ঘন্টা।বিনামূল্যে শুরু করুন →