GUIDE Sosiete

COMPAS ak njubadi ci algorithm yiy baamtu def ñaawtéef

COMPAS (Profilaasioŋ biy saytu defkatu ñaawtéef yi ngir am yeneen daan) jumtukaay la buy jàngat risku jënd ak jaay bu bawoo ci Northpointe, leegi Equivant, biy xool ni kiy tuumal mënee def njuumtewaat.

Déglul tegtal biiIA-nettali · ~3 min

Ci xët wii4 simili jàng
  1. Résumé
  2. Plongeur bu xóot
  3. Doxal ci àdduna dëgg
  4. Ëlëgu COMPAS ak Bias ci Algorithm yuy Baamtu
  5. Teg ko ci jëf
  6. Weyal di banneexu
  7. Laaj yi ñuy faral di laaj

Résumé

Nekkoon na misaalu jangat bu mag ci njubte ci algorithm ginnaaw bi benn laŋket bu ProPublica ci 2016 wane ni ay njuumteem daanu ci xeetu nit bu wuute. Wuute bi ci topp dafa wane ni li ñuy wax ci yoon mën na xëccoo ci wàllu math.

Plongeur bu xóot

Ci weeru mee 2016, ProPublica siiwal na "Njàqare masin." Mu jàngat poñ yi COMPAS joxe ci lu tollu ci 7000 nit ñuñ jàpp ci Broward County, Florida, ci 2013 ak 2014, ba noppi xool kan lañu daan ci krim bu bees ci diiru ñaari at. Race bokkul ak COMPAS, ndax dafay jëfandikoo jaar-jaaru def naka su dul noonu ak ab laajte. Loolu terewul, ProPublica gis nani ci nit ñi deful njuumte, ñi ñu tuumal ñu ñuul ñi ñoo ëpp ñaari yoon ñi ñu tuumal ñu weex ñi ñu wax ni ñoo gëna am risk. Ci nit ñiy def ñaawtéef, ñi ñu tuumal ñu weex ñoo gënoon bari luñu wax ni ñoo gëna néew risk. Ci anam wu yomb, njuumte positive yi ñoo gënoon bari ci ñi ñu tuumal ñu ñuul ñi, njuumte negatif yi ñoo gënoon bari ci ñi weex ñi ñu tuumal. ProPublica itam xamlena ni njubte gi tuutiwoon na, luy tollu ci 60 pursaa. Northpointe tontu ni jumtukaay bi jaar na yoon ci beneen anam. Ci poñ bu nekk, ñi ñu tuumal ñu weex ñi ak ñu ñuul ñi dañu def ñaawtéef yu noonu mel, kon poñ buñ jox dafay tekki benn mbir, lakk wumu mëna doon. Màndarga boobu ñu ngi koy woowe etalonnage, wala parite buy wax luy am. Nimero bu nekk ci ñoom dëgg la woon. Ginaaw loolu gëstukat yi wane li tax ñoom ñaar mën nañu baax. Jon Kleinberg, Sendhil Mullainathan ak Manish Raghavan, ak Alexandra Chouldechova ñoom ñaar, dañu firndeel ni su ñaari mbooloo amee tolluwaayu résultat bu wuute, mënu ñu kalibre benn poñ te itam ñu am tolluwaayu njuumte bu baax ak njuumte bu baaxul ci kuréel yépp. Benn ci ñoom mooy wax luy waaja am. Kon tànn luñuy tekki ci yoon mooy àtte valeur, du detay teknik. Ci Etat v. Loomis (2016), Kuur bi gëna mag ci Wisconsin mayna àttekat yi ñu xoolaat COMPAS bi ñuy teg àtte. Dafa wax ni poñ yi mënul nekk luy dogal, ñu laaj ñu bind ay àrtu ngir ànd ak loolu. Gëstu bu Julia Dressel ak Hany Farid amal ci Dartmouth ci atum 2018 wonena ni ay deff te Yalla tax ñu taggat ci enternet bi deñoo wax luy waaja japp nit ñi ci anam wu jaar yoon ni COMPAS. Li ñu gëna bari luñu gëm mooy bàyyi race ci biti dafay dindi bët bu ñaaw. Ay dugal yu méngoo lu melni jàpp yu njëkk mën nañu yóbbaale anami poliis yu yàgg yi ci poñ yi.

Doxal ci àdduna dëgg

Ci dëkk biy jëfandikoo COMPAS, ofisiye biy njëkka àtte dafay boole tontub laajteb kiy tuumal ak jaar-jaaru def ñaawtéef. Lépp soo ko boolee mu am poñ yu tàmbalee ci 1 ba ci 10, ñu koy gis ci rapoor bi ñu yónnee attekat bi.

Ginaaw Etat v. Loomis, benn àttekat bu Wisconsin bu joxe rapooru COMPAS itam jotna ay àrtu yuñ bind. Ñu ngi àrtu ni anam wi ñu koy defee dafa wuute ak yeneen yi, ni poñ yi dañuy fësal mbooloo mi du benn-benn nit, ba noppi laaj nañu lu jëm ci wuute gi am ci wàllu xeet.

Ab gëstukat buy saytu ab xeetu leble dafay xayma etalonnage ak njëg yu baaxul yi ci kureel bu nekk. Nimu melni ci COMPAS, yamale benn dafay dog ​​beneen bi ndax njëgu grupu yi wuute nañu.

Gëstukat yi topp ci 2018 Dartmouth jàngat wane nañu ni xeetu jëfandikoo bu yomb rek jëfandikoo at ak limu daan yi ñu njëkka daan, dafay wax luy waaja jàppaat ci anam wu gëna jubal ci poñ COMPAS yépp.

Ëlëgu COMPAS ak Bias ci Algorithm yuy Baamtu

Ba leegi ñu ngi jëfandikoo jumtukaayi jàngat risk yi ci barab yu bari ci Etats Unis balaa àtte ak daan, te waxtaan wi mingi wéy. Yenn kurelu coppite yi dañu jàpp ni ñoo gëna dëppoo ak àtte bu kenn xamul lumuy tekki, ñeneen ñi jàpp ni dañu tënk jaar-jaaru taarix. Ay jëm kanam yu mëna am bokkuna ci ay laaj ngir am firnde ci dëkk bi, rapoor bu ñépp bokk ci tolluwaayu njuumte ci kuréel gu nekk, ak yelleefu ñi ñuy tuumal ni ñuy defaree poñ yi, waaye anam wi ñu koy defee dafay wuute ci yoon bu nekk. Resultaa bi mënul am leegi bokk na ci njàngale yu jaar yoon, te dafay jëmmal audit yi ci hiring, leble ak pajum wérgi-yaram. Du leeral ban firnde lañu wara jëfandikoo. Loolu mooy des tanneef ci politik ci njuumte yi askan wi gëna bëgga nangu.

Teg ko ci jëf

Lu tax mu am solo

  • Risk ak kaaraange. Gaañ-gaañu IA yu mag yi ak yu bës bu nekk yépp a ngi aju ci ki xam risk yi ak ki mëna def dara.
  • dogal yu gëna leer. Liggéeyukaay ak xam-xam bu ñépp bokk mooy wane ndax politiku kaaraange bu dëgër mën na am ci wàllu politik.
  • Dagg ci hype. Faram-fàcce yu leer dañuy wàññi li ñuy jàpp ci hype, PR lab, ak tiyaatar bu leerul.

Moytul

  • Jàppale risku nekk gi ni siyaas fiksioŋ fekk kàttan gi dafay yokk.
  • Jaxasoo kaaraange produit surface ak jubluwaay ci suufu autonomie bu kawe.
  • Bàyyi nit ñi xamul làkku Àngle ak ñi xamul làkku Angale, ñu am balluwaay yu baaxul.

Jéego yi ci topp

  1. Tàqale loraange yi ci produit bi, jëfandikoo bu baaxul, ak risku ñàkka mëna yor / ñàkka méngoo.
  2. Laajteel ban firnde mooy soppi sa xalaat ci kalendriye yi ak tar gi.
  3. Danga taamu balluwaay yu njëkk yi ak jàngat yu fëgër yi moo gën waxtaanu njaay mi.
  4. Xaarandil benn yoonu jëf: liggéey, politik, xaalis, wala xam-xam — du xam-xam kese.

Weyal di banneexu

Bulletin bu amul fayda

Jàngal xibaar AI bu bes

Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.

Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.

Nattal sa bopp

Take the COMPAS and Bias in Recidivism Algorithms quiz

Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.

Tambalil quiz

Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax

Laaj yi ñuy faral di laaj

Luy COMPAS ak Bias ci algorithm yiy baamtu def ñaawtéef?

COMPAS (Profilaasioŋ biy saytu defkatu ñaawtéef yi ngir am yeneen daan) jumtukaay la buy jàngat risku jënd ak jaay bu bawoo ci Northpointe, leegi Equivant, biy xool ni kiy tuumal mënee def njuumtewaat. Nekkoon na misaalu jangat bu mag ci njubte ci algorithm ginnaaw bi benn laŋket bu ProPublica ci 2016 wane ni ay njuumteem daanu ci xeetu nit bu wuute. Wuute bi ci topp dafa wane ni li ñuy wax ci yoon mën na xëccoo ci wàllu math.

Ci biir ñi ñu tuumal te deful seen njuumte, lan la ProPublica gis ci ñi ñu tuumal ñu ñuul ñi ñu koy méngale ak ñi ñu tuumal ñu weex ñi?

ProPublica gisna ni ñi ñu tuumal ñu ñuul ñi ñoo ëppu luñu juum ci njuumte. Ci nit ñi deful seen njuumte, ñi ñu tuumal ñu ñuul ñi ñoo ëppoon ñaari yoon ñi ñu wax ni ñoo gëna am risk.

Lan moo nekkoon xët wi Northpointe taxawu COMPAS?

Northpointe dafa wax ni parity bi ñuy wax luy waaja am, ñu koy woowe itam etalonnage: benn poñ buñ jox dafay méngoo ak xeetu ñaawtéef bu noonu mel, race bi du ci dara.

Ci yan anam la resultaa bi mënatul wax ni etalonnage ak tolluwaayu njuumte yu tolloo mënu ñu ànd?

Kleinberg, Mullainathan ak Raghavan, ak Chouldechova ci seen biir, dañu wane ni xeex bi dafay am saa yu tolluwaayu njëg yi wuutee, te wax luy waaja am jaarul yoon.

Lan la këru àttekaay bi gëna mag ci Wisconsin wax ci Etat v. Loomis?

Tribunaal bi nangu na ñu jëfandikoo COMPAS ci wetu yeneen mbir, ñu bind ci ay artu ci wàllu àpp, waaye dafa wax ni mënul nekk mbir miy dogal.

Ndax race bokk na ci COMPAS?

Race du luñuy dugal. Ba leegi wuute yi mën nañu am ci ay dugal yuñ boole ak ci wuute ci njëg yu njëkk yi.