Amazon کا ختم کر دیا گیا AI بھرتی کرنے کا ٹول

رائٹرز نے اکتوبر 2018 میں رپورٹ کیا کہ Amazon نے نوکری کے امیدواروں کی درجہ بندی کے لیے مشین لرننگ ٹول بنایا، اور پھر خاموشی سے ختم کر دیا۔ ایک ٹیم نے 2014 کے آس پاس کام شروع کیا۔ مقصد ریزیومے کے ڈھیر میں کھانا کھلانا اور خدمات حاصل کرنے کے لیے سرفہرست چند امیدواروں کو واپس لانا تھا۔ ماڈلز کو دس سالوں کے دوران کمپنی کو جمع کرائے گئے ریزوموں پر تربیت دی گئی اور یہ سیکھا گیا کہ کون سے نمونے ان لوگوں کے ساتھ چلتے ہیں جن کی خدمات حاصل کی گئی تھیں۔ تکنیکی کرداروں کے لیے زیادہ تر درخواست دہندگان مرد تھے، اس لیے ماڈل نے جو نمونے سیکھے وہ مردانہ کوڈ والے تھے۔ 2015 تک، ٹیم نے دیکھا کہ سسٹم سافٹ ویئر ڈویلپر اور دیگر تکنیکی ملازمتوں کے امیدواروں کو صنفی غیر جانبدار طریقے سے درجہ بندی نہیں کر رہا ہے۔ روئٹرز کے مطابق، اس نے لفظ "خواتین" پر مشتمل ریزیومے پر جرمانہ عائد کیا جیسا کہ "خواتین کے شطرنج کلب کی کپتان" اور دو تمام خواتین کالجوں کے فارغ التحصیل افراد کو کم کر دیا گیا۔ اس نے "Executed" اور "captureed" جیسے فعل کو بھی پسند کیا جو مردوں کے ریزوم پر زیادہ کثرت سے ظاہر ہوتا ہے۔ انجینئرز نے ماڈلز کو ان مخصوص شرائط سے غیر جانبدار رہنے کے لیے ایڈٹ کیا۔ اس نے اس بات کی کوئی گارنٹی نہیں دی کہ سسٹم امیدواروں کو چھانٹنے کے دوسرے طریقے تلاش نہیں کرے گا جو بالکل امتیازی تھے۔ پروجیکٹ کی حمایت ختم ہوگئی اور ٹیم 2017 کے اوائل تک ختم کردی گئی۔ رائٹرز نے اطلاع دی ہے کہ بھرتی کرنے والوں نے اس کی سفارشات کو دیکھا لیکن اکیلے ان پر بھروسہ نہیں کیا۔ اہم سبق یہ ہے کہ تربیت کا لیبل مسئلہ تھا۔ ماڈل نے درست طریقے سے پیش گوئی کی کہ Amazon نے پہلے کس کی خدمات حاصل کی تھیں، اور ان کی خدمات حاصل کرنے کے ماضی کے فیصلوں میں تعصب تھا۔ ایک عام غلط فہمی یہ ہے کہ الگورتھم خود ہی "جنس پرست بن گیا"۔ درحقیقت اس نے بالکل سیکھا کہ ڈیٹا نے کیا بدلہ دیا۔ دوسرا یہ کہ جنس کو ہٹانے سے مسئلہ حل ہو جاتا ہے۔ متن میں بہت سے متعلقہ پراکسیز شامل ہیں، اور ایک لچکدار ماڈل انہیں تلاش کرے گا۔ یہ معاملہ اب ریگولیٹری بحثوں میں سامنے آتا ہے، بشمول نیو یارک سٹی کا خودکار ہائرنگ ٹولز کے لیے تعصب آڈٹ قانون اور EU AI ایکٹ کا روزگار کے نظام کو ہائی رسک کے طور پر درجہ بندی کرنا۔