Ci bi mu melGis bi ci topp
Racial Bias ci Algorithm yi ci wàllu faju
Askan wi
GUIDE Sosiete
COMPAS (Profilaasioŋ biy saytu defkatu ñaawtéef yi ngir am yeneen daan) jumtukaay la buy jàngat risku jënd ak jaay bu bawoo ci Northpointe, leegi Equivant, biy xool ni kiy tuumal mënee def njuumtewaat.
Déglul tegtal biiIA-nettali · ~3 min
Nekkoon na misaalu jangat bu mag ci njubte ci algorithm ginnaaw bi benn laŋket bu ProPublica ci 2016 wane ni ay njuumteem daanu ci xeetu nit bu wuute. Wuute bi ci topp dafa wane ni li ñuy wax ci yoon mën na xëccoo ci wàllu math.
Ci weeru mee 2016, ProPublica siiwal na "Njàqare masin." Mu jàngat poñ yi COMPAS joxe ci lu tollu ci 7000 nit ñuñ jàpp ci Broward County, Florida, ci 2013 ak 2014, ba noppi xool kan lañu daan ci krim bu bees ci diiru ñaari at. Race bokkul ak COMPAS, ndax dafay jëfandikoo jaar-jaaru def naka su dul noonu ak ab laajte. Loolu terewul, ProPublica gis nani ci nit ñi deful njuumte, ñi ñu tuumal ñu ñuul ñi ñoo ëpp ñaari yoon ñi ñu tuumal ñu weex ñi ñu wax ni ñoo gëna am risk. Ci nit ñiy def ñaawtéef, ñi ñu tuumal ñu weex ñoo gënoon bari luñu wax ni ñoo gëna néew risk. Ci anam wu yomb, njuumte positive yi ñoo gënoon bari ci ñi ñu tuumal ñu ñuul ñi, njuumte negatif yi ñoo gënoon bari ci ñi weex ñi ñu tuumal. ProPublica itam xamlena ni njubte gi tuutiwoon na, luy tollu ci 60 pursaa. Northpointe tontu ni jumtukaay bi jaar na yoon ci beneen anam. Ci poñ bu nekk, ñi ñu tuumal ñu weex ñi ak ñu ñuul ñi dañu def ñaawtéef yu noonu mel, kon poñ buñ jox dafay tekki benn mbir, lakk wumu mëna doon. Màndarga boobu ñu ngi koy woowe etalonnage, wala parite buy wax luy am. Nimero bu nekk ci ñoom dëgg la woon. Ginaaw loolu gëstukat yi wane li tax ñoom ñaar mën nañu baax. Jon Kleinberg, Sendhil Mullainathan ak Manish Raghavan, ak Alexandra Chouldechova ñoom ñaar, dañu firndeel ni su ñaari mbooloo amee tolluwaayu résultat bu wuute, mënu ñu kalibre benn poñ te itam ñu am tolluwaayu njuumte bu baax ak njuumte bu baaxul ci kuréel yépp. Benn ci ñoom mooy wax luy waaja am. Kon tànn luñuy tekki ci yoon mooy àtte valeur, du detay teknik. Ci Etat v. Loomis (2016), Kuur bi gëna mag ci Wisconsin mayna àttekat yi ñu xoolaat COMPAS bi ñuy teg àtte. Dafa wax ni poñ yi mënul nekk luy dogal, ñu laaj ñu bind ay àrtu ngir ànd ak loolu. Gëstu bu Julia Dressel ak Hany Farid amal ci Dartmouth ci atum 2018 wonena ni ay deff te Yalla tax ñu taggat ci enternet bi deñoo wax luy waaja japp nit ñi ci anam wu jaar yoon ni COMPAS. Li ñu gëna bari luñu gëm mooy bàyyi race ci biti dafay dindi bët bu ñaaw. Ay dugal yu méngoo lu melni jàpp yu njëkk mën nañu yóbbaale anami poliis yu yàgg yi ci poñ yi.
Ci dëkk biy jëfandikoo COMPAS, ofisiye biy njëkka àtte dafay boole tontub laajteb kiy tuumal ak jaar-jaaru def ñaawtéef. Lépp soo ko boolee mu am poñ yu tàmbalee ci 1 ba ci 10, ñu koy gis ci rapoor bi ñu yónnee attekat bi.
Ginaaw Etat v. Loomis, benn àttekat bu Wisconsin bu joxe rapooru COMPAS itam jotna ay àrtu yuñ bind. Ñu ngi àrtu ni anam wi ñu koy defee dafa wuute ak yeneen yi, ni poñ yi dañuy fësal mbooloo mi du benn-benn nit, ba noppi laaj nañu lu jëm ci wuute gi am ci wàllu xeet.
Ab gëstukat buy saytu ab xeetu leble dafay xayma etalonnage ak njëg yu baaxul yi ci kureel bu nekk. Nimu melni ci COMPAS, yamale benn dafay dog beneen bi ndax njëgu grupu yi wuute nañu.
Gëstukat yi topp ci 2018 Dartmouth jàngat wane nañu ni xeetu jëfandikoo bu yomb rek jëfandikoo at ak limu daan yi ñu njëkka daan, dafay wax luy waaja jàppaat ci anam wu gëna jubal ci poñ COMPAS yépp.
Ba leegi ñu ngi jëfandikoo jumtukaayi jàngat risk yi ci barab yu bari ci Etats Unis balaa àtte ak daan, te waxtaan wi mingi wéy. Yenn kurelu coppite yi dañu jàpp ni ñoo gëna dëppoo ak àtte bu kenn xamul lumuy tekki, ñeneen ñi jàpp ni dañu tënk jaar-jaaru taarix. Ay jëm kanam yu mëna am bokkuna ci ay laaj ngir am firnde ci dëkk bi, rapoor bu ñépp bokk ci tolluwaayu njuumte ci kuréel gu nekk, ak yelleefu ñi ñuy tuumal ni ñuy defaree poñ yi, waaye anam wi ñu koy defee dafay wuute ci yoon bu nekk. Resultaa bi mënul am leegi bokk na ci njàngale yu jaar yoon, te dafay jëmmal audit yi ci hiring, leble ak pajum wérgi-yaram. Du leeral ban firnde lañu wara jëfandikoo. Loolu mooy des tanneef ci politik ci njuumte yi askan wi gëna bëgga nangu.
Bulletin bu amul fayda
Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.
Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.
Nattal sa bopp
Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.
Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax
COMPAS (Profilaasioŋ biy saytu defkatu ñaawtéef yi ngir am yeneen daan) jumtukaay la buy jàngat risku jënd ak jaay bu bawoo ci Northpointe, leegi Equivant, biy xool ni kiy tuumal mënee def njuumtewaat. Nekkoon na misaalu jangat bu mag ci njubte ci algorithm ginnaaw bi benn laŋket bu ProPublica ci 2016 wane ni ay njuumteem daanu ci xeetu nit bu wuute. Wuute bi ci topp dafa wane ni li ñuy wax ci yoon mën na xëccoo ci wàllu math.
ProPublica gisna ni ñi ñu tuumal ñu ñuul ñi ñoo ëppu luñu juum ci njuumte. Ci nit ñi deful seen njuumte, ñi ñu tuumal ñu ñuul ñi ñoo ëppoon ñaari yoon ñi ñu wax ni ñoo gëna am risk.
Northpointe dafa wax ni parity bi ñuy wax luy waaja am, ñu koy woowe itam etalonnage: benn poñ buñ jox dafay méngoo ak xeetu ñaawtéef bu noonu mel, race bi du ci dara.
Kleinberg, Mullainathan ak Raghavan, ak Chouldechova ci seen biir, dañu wane ni xeex bi dafay am saa yu tolluwaayu njëg yi wuutee, te wax luy waaja am jaarul yoon.
Tribunaal bi nangu na ñu jëfandikoo COMPAS ci wetu yeneen mbir, ñu bind ci ay artu ci wàllu àpp, waaye dafa wax ni mënul nekk mbir miy dogal.
Race du luñuy dugal. Ba leegi wuute yi mën nañu am ci ay dugal yuñ boole ak ci wuute ci njëg yu njëkk yi.
Weyal di jàng
Tann nañu yeneen njiit ngir topic bii
Ci bi mu melGis bi ci topp
Racial Bias ci Algorithm yi ci wàllu faju
Askan wi