Xiga xigaHagaha xiga
Eexda jinsiyadeed ee Algorithm-yada daryeelka caafimaadka
Bulshada
HAGAHA Bulshada
COMPAS iyo Eexda Algorithms-ka Recidivism
COMPAS (Maaraynta Dembiilaha ee Sixida ee Ciqaabta Kale) waa aalad qiimaynta khatarta ganacsi ee Northpointe, oo hadda u dhiganta, taas oo keenta sida ay ugu dhowdahay in eedaysanuhu dib u gafo.
Dhageyso hagahanAI-waa laga sheekeeyay · ~3 min
Boggaan4 daqiiqo akhri
Dulmar
Waxay noqotay daraasadda kiiska dhexe ee caddaaladda algorithm ka dib markii 2016 ProPublica baaritaan lagu ogaaday in khaladaadkeedu ay si aan sinnayn u dhaceen jinsiyadda. Dooddii xigtay waxay muujisay in qeexitaannada guud ee caddaaladdu ay xisaab ahaan iska hor iman karaan.
quusid qoto dheer
Bishii Maajo 2016, ProPublica waxay daabacday "Machine Bias." Waxay falanqeysay buundooyinka COMPAS ee ku dhawaad 7,000 oo qof oo lagu xiray Broward County, Florida, 2013 iyo 2014, waxayna hubisay cidda lagu soo oogay dambi cusub laba sano gudahood. Jinsiyadu maaha wax la soo geliyo COMPAS, oo adeegsada taariikhda dembiyada iyo xog-ururinta. Si kastaba ha ahaatee, ProPublica waxay ogaatay in dadka aan dib u xumaanin, eedaysanayaasha Madowga ah ay ku dhawaad laba jibaar ka badnaayeen eedaysanayaasha cadaanka ah in lagu calaamadiyay khatar sare. Dadka dib u xumay, eedaysanayaasha caddaanka ah ayaa inta badan lagu calaamadiyay khatar hoose. Si fudud u dhig, qiimayaasha togan ee beenta ah ayaa sare u kacay eedaysanayaasha Madowga ah iyo heerarka taban ee beenta ah ayaa ka sarreeya eedaysanayaasha caddaanka ah. ProPublica ayaa sidoo kale sheegtay in saxnaanta guud ay ahayd mid dhexdhexaad ah, qiyaastii 60 boqolkiiba. Northpointe ayaa ku jawaabay in qalabku uu ahaa mid cadaalad ah marka loo eego heer kale. Heer kasta oo dhibco ah, eedaysanayaasha madow iyo caddaanka ayaa dib u gafay heerar isku mid ah, markaa dhibcaha la bixiyay macnaheedu waa isku shay iyada oo aan loo eegin jinsiyadda. Gurigan waxaa loo yaqaana qiyaasid, ama sinnaanta saadaalinta. Dhinac walba nambarada inta badan waa sax. Cilmi-baarayaashu waxay markaa muujiyeen sababta ay labaduba sax u noqon karaan. Jon Kleinberg, Sendhil Mullainathan iyo Manish Raghavan, iyo si gooni gooni ah Alexandra Choldechova, waxay caddeeyeen in marka laba kooxood ay leeyihiin heerar kala duwan oo sal ah natiijada, dhibcaha aan la qiyaasi karin oo sidoo kale waxay leeyihiin qiime been ah oo been ah iyo kuwa been abuur ah ee kooxaha. Waxa kaliya ee ka reeban waa saadaaliye qumman. Markaa doorashada qeexitaan caddaaladeed waa qiime qiime, ee maaha tafaasiil farsamo. Gobolka Loomis (2016), Maxkamadda Sare ee Wisconsin waxay u ogolaatay garsoorayaasha inay tixgeliyaan COMPAS xukunka. Waxay xukuntay in dhibcaha aysan noqon karin qodobka go'aaminta waxayna u baahan tahay digniin qoraal ah si ay ula socoto. Daraasad Dartmouth 2018 ay sameeyeen Julia Dressel iyo Hany Farid waxay ogaadeen in tabaruceyaasha khadka tooska ah ee aan tababaran ay saadaaliyeen dib u soo celinta si sax ah sida COMPAS. Fikrad khaldan oo la wada leeyahay ayaa ah in ka tagista jinsiyadda ay meesha ka saarto eexda. Waxyaalaha la xidhiidha sida xidhitaanadii hore waxay keeni karaan habab boolis oo taariikhi ah dhibcaha.
Dhaqangelinta Adduunka-dhabta ah
Degmo adeegsata COMPAS, sarkaalka maxkamada ka hor wuxuu isku daraa jawaabaha su'aalaha eedaysanaha iyo taariikhdooda dembiyeed. Natiijadu waa dhibco jajaban oo ka bilaabma 1 ilaa 10 kuwaas oo ka muuqda warbixinta loo diray garsooraha.
Gobolka v. Loomis ka dib, garsooraha Wisconsin ee hela warbixinta COMPAS waxa kale oo uu helaa digniin qoraal ah. Waxay ka digayaan in habka uu yahay mid iska leh, in buundooyinka ay qeexayaan kooxaha halkii ay ka ahaan lahaayeen shakhsiyaad, iyo in su'aalo laga keenay farqiga jinsiyadeed.
Saynisyahanka xogta ee hubinaya qaabka amaahda ayaa xisaabiya isku-habaynta iyo qiimayaasha beenta ah ee koox kasta. Si la mid ah COMPAS, barbardhiga mid ayaa jebiya kan kale sababtoo ah heerarka aasaasiga ah ee kooxuhu way kala duwan yihiin.
Cilmi-baarayaasha raacaya daraasadda Dartmouth ee 2018 waxay muujinayaan in moodal fudud oo isticmaalaya da'da kaliya iyo tirada xukunnada hore ay saadaaliyaan dib u soo celinta sida saxda ah ee dhibcaha COMPAS ee buuxa.
Mustaqbalka COMPAS iyo Eexda Algorithms-ka Recidivism
Aaladaha qiimaynta khatarta ah ayaa wali lagu isticmaalaa goobo badan oo Maraykan ah oo ka hor maxkamadaynta iyo xukunka, dooduna way sii socotaa. Qaar ka mid ah kooxaha dib-u-habeeynta ayaa ku taageera iyaga si joogto ah marka loo eego xukunka aan la caawinin, halka kuwa kalena ay ku doodaan inay ku qotomaan eexda taariikhiga ah. Horumarka suurtogalka ah waxaa ka mid ah shuruudaha ansaxinta maxalliga ah, warbixinta guud ee heerka khaladaadka koox ahaan, iyo helitaanka eedaysanayaasha sida buundooyinka loo soo saaro, in kasta oo xawligu ku kala duwan yahay xukunka. Natiijadii aan suurta-gal ahayn hadda waa qayb caadi ah oo waxbaridda caddaaladda ah waxayna qaabaysaa xisaab-xidhka shaqaalaynta, amaahinta iyo daryeelka caafimaadka. Ma xallinayo qeexida la isticmaalayo. Taasi waxay ahaanaysaa siyaasad doorasho oo ku saabsan khaladaadka ay bulshadu doonayso inay aqbasho.
Ku dhaqangelinta
Maxay muhiim u tahay
- Khatarta iyo badbaadada. Masiibada iyo waxyeellada maalinlaha ah ee AI waxay labaduba ku xiran yihiin cidda fahmaysa khataraha iyo cidda wax ka qaban karta.
- Go'aamo cad. Aqoonta dadweynaha iyo aqoonta xirfadeed waxay qaabaysaa in siyaasadda badbaadada xooggani ay suurtogal tahay siyaasad ahaan.
- Ka gudub xiisaha. Sharaxaada cad waxay yareeyaan qabsashada buunbuuninta, shaybaarka PR, iyo masraxa anshaxa aan caddayn.
Iska ilaali
- Daawaynta khatarta jirta sida sci-fi halka awoodaha isku-dhisyada.
- jahawareerka badbaadada alaabta dusha sare leh oo la jaanqaadaysa madax-bannaani sare.
- Ka tagista daawadayaasha aan Ingiriisiga ahayn iyo kuwa aan khabiirka ahayn ee leh ilo tayo hooseeya oo keliya.
Tallaabooyinka xiga
- Kala soocida waxyeelada alaabta, si xun u isticmaalka, iyo luminta xakamaynta / khataraha khalkhalgelinta.
- Weydii caddaynta bedeli doonta aragtidaada waqtiyada iyo darnaanta.
- Ka door bida ilaha aasaasiga ah iyo qiimaynta la taaban karo ee sheegashooyinka suuq-geynta.
- Aqoonso hal waddo oo hawleed: xirfad, siyaasad, maalgelin, ama xirfado - kaliya maaha wacyigelin.
Sii wad Sahaminta
Warqad bilaash ah
Hel warbixinta maalinlaha ah ee AI
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Take the COMPAS and Bias in Recidivism Algorithms quiz
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Su'aalaha soo noqnoqda
Waa maxay COMPAS iyo Eexda Algorithms-ka Recidivism?
COMPAS (Maaraynta Dembiilaha ee Sixida ee Ciqaabta Kale) waa aalad qiimaynta khatarta ganacsi ee Northpointe, oo hadda u dhiganta, taas oo keenta sida ay ugu dhowdahay in eedaysanuhu dib u gafo. Waxay noqotay daraasadda kiiska dhexe ee caddaaladda algorithm ka dib markii 2016 ProPublica baaritaan lagu ogaaday in khaladaadkeedu ay si aan sinnayn u dhaceen jinsiyadda. Dooddii xigtay waxay muujisay in qeexitaannada guud ee caddaaladdu ay xisaab ahaan iska hor iman karaan.
Eedaysanayaasha AAN dib u xumaan, maxay ProPublica ka heshay eedaysanayaasha Madowga marka la barbar dhigo eedaysanayaasha cadaanka ah?
ProPublica waxay heshay qiime sare oo been ah oo been ah eedaysanayaasha Madowga ah. Dadka aan dib u xumaanin, eedaysanayaasha Madowga ah waxay ku dhawaad laba jibaar ka badnaayeen in lagu calaamadeeyay khatar sare.
Maxay ahayd udub dhexaadka difaaca Northpointe ee COMPAS?
Northpointe waxa ay ku doodday sinnaanta saadaalinta, oo sidoo kale loo yaqaan calibration: buundada la bixiyay waxay u dhigantaa heerka dambiga la mid ah iyada oo aan loo eegin jinsiyadda.
Xaalad noocee ah ayay natiijada suurtogalka ah ku odhanaysaa cabbirka iyo khaladaadka siman ee dhammaan ma wada hayn karaan?
Kleinberg, Mullainathan iyo Raghavan, iyo si gooni gooni ah Choldechova, waxay muujiyeen isku dhacu mar kasta oo heerarka salku ka duwan yahay iyo saadaasha waa mid aan qummanayn.
Maxay Maxkamadda Sare ee Wisconsin ku qabatay Gobolka Loomis?
Maxkamaddu waxay ogolaatay COMPAS in loo adeegsado arrimo kale, iyadoo digniin qoraal ah laga bixiyay xadkeeda, laakiin waxay xukuntay inaysan noqon karin qodobka go'aaminaya.
Jinsigu ma yahay qayb ka mid ah COMPAS?
Jinsigu maaha wax la soo galiyo. Kala duwanaanshuhu wuxuu weli ka soo bixi karaa iyada oo la adeegsanayo wax-soo-gelinta isku-xidhan iyo kala duwanaanshaha heerarka aasaasiga ah.
Sii wad waxbarashada
Tilmaamaha la xidhiidha
Tilmaamayaal badan ayaa loo doortay mawduucan