এআই পক্ষপাত

কিছু প্যাটার্ন অন্যায্য বা ক্ষতিকারক ফলাফল তৈরি করতে পারে। পক্ষপাত মূল্যায়নের জন্য প্রসঙ্গ এবং পরিণতিগুলি সংজ্ঞায়িত করা প্রয়োজন, কেবল একটি ডেটাসেট থেকে একটি সংবেদনশীল কলাম অপসারণ করা নয়।

মূল টেকওয়ে

• ডেটা এবং পরিমাপের পছন্দগুলি তদন্ত করুন।
• অনিশ্চয়তার সাথে প্রাসঙ্গিক গ্রুপের ফলাফলগুলি রিপোর্ট করুন।
• বৃহত্তর কর্মপ্রবাহ এবং অবলম্বন মূল্যায়ন করুন।

উদাহরণ এবং লেবেলগুলি কীভাবে সংগ্রহ করা হয়েছিল তা পরীক্ষা করুন। অনুপস্থিত জনসংখ্যা, অসামঞ্জস্যপূর্ণ টীকা, ঐতিহাসিক সিদ্ধান্ত এবং নির্বাচনী পরিমাপ মডেলটি যা শিখে তা আকার দিতে পারে। একটি টার্গেট লেবেল অন্তর্নিহিত ফলাফলের পরিবর্তে একটি পুরানো প্রক্রিয়াকে প্রতিফলিত করতে পারে যা লোকেরা যত্নশীল। উপযুক্ত গোপনীয়তা নিয়ন্ত্রণের সাথে প্রাসঙ্গিক গোষ্ঠী এবং শর্তগুলির মধ্যে পারফরম্যান্স পরিমাপ করুন। নমুনার আকার এবং অনিশ্চয়তা রিপোর্ট করুন। একটি ছোট উপগোষ্ঠীর অনির্ভরযোগ্য অনুমান থাকতে পারে, যখন একটি বৈশ্বিক গড় একটি বড় এবং কার্যত গুরুত্বপূর্ণ বৈষম্য লুকিয়ে রাখতে পারে। বিভিন্ন ন্যায্যতার মানদণ্ড বিভিন্ন প্রশ্নের উত্তর দেয় এবং দ্বন্দ্ব করতে পারে। একটি পরিসংখ্যানগত পরিমাপ সমান করা প্রতিটি নৈতিক বা আইনি উদ্বেগের নিষ্পত্তি করে না। ডোমেন দক্ষতা এবং সিস্টেম দ্বারা প্রভাবিত ব্যক্তিদের অংশগ্রহণের সাথে মানদণ্ড চয়ন করুন। মডেলের চারপাশে কর্মপ্রবাহ পর্যালোচনা করুন। ভবিষ্যদ্বাণীগুলি কীভাবে ব্যবহার করা হয়, কে একটি ফলাফলকে চ্যালেঞ্জ করতে পারে এবং প্রতিক্রিয়া কীভাবে সংগ্রহ করা হয় তা ক্ষতির বিতরণ পরিবর্তন করতে পারে। তাদের উদ্দেশ্যযুক্ত প্রভাব এবং সম্ভাব্য নতুন সমস্যা উভয়ের জন্য প্রশমনগুলি মূল্যায়ন করুন। ন্যায্যতাকে এককালীন শংসাপত্রের পরিবর্তে চলমান মূল্যায়ন হিসাবে বিবেচনা করুন।

1. একটি উদ্ভাবিত পরীক্ষায়, গ্রুপ এ এর 95% নির্ভুলতার সাথে 900 টি উদাহরণ রয়েছে, যখন গ্রুপ বি-তে 60% নির্ভুলতার সাথে 100 টি উদাহরণ রয়েছে।
2. সামগ্রিক ফলাফলটি গ্রুপ এ দ্বারা আধিপত্য বিস্তার করে। গ্রুপ বি পৃথকভাবে রিপোর্ট করুন এবং এর ত্রুটি এবং নমুনা অনিশ্চয়তা পরিদর্শন করুন।
3. প্রশমন বেছে নেওয়ার আগে ডেটা কভারেজ এবং ওয়ার্কফ্লোর কারণগুলি তদন্ত করুন।

এই কাল্পনিক গণনাগুলি ব্যাখ্যা করে যে কেন একটি সামগ্রিক স্কোর ন্যায়সঙ্গত পারফরম্যান্স প্রতিষ্ঠা করতে পারে না।