Xiga xigaHagaha xiga
Dhibcaha CLIP iyo Qiyaasaha Dookhyada Aadanaha
Farsamo
HAGAHA Farsamada
Halbeegyada Caddaaladda AI: Wadannimada dadkoo dhan oo la siman yahay
Halbeegyada caddaaladda kooxuhu waxay cabbiraan haddii go'aamada modelka ama khaladaadku ku kala duwan yihiin kooxaha tirakoobka.
Dhageyso hagahanAI-waa laga sheekeeyay · ~3 min
Boggaan4 daqiiqo akhri
Dulmar
sinnaanta dadwaynaha waxa ay isbarbardhigaan heerka xulashada, fursadaha siman waxa ay isbarbardhigaan heerka togan ee dhabta ah, jaanisyada la simay waxa ay isbarbardhigaan run iyo been labadaba, sinnaanta saadaalintu waxa ay barbardhigtaa saxnaanta. Qeexitaannadani waa muhiim sababtoo ah waxay isku khilaafi karaan xisaab ahaan, sidaas darteed doorashada mid waa qiimeyn qiime leh oo ku saabsan nooca cadaalad darada ah ee ugu muhiimsan kiis gaar ah.
quusid qoto dheer
Qaado qaabka amaahda iyo laba kooxood, A iyo B, oo ah 100 codsade midkiiba. In A, 50 ayaa dib u bixin doona; gudaha B, 20 lahaa. Qaabku wuxuu ansixiyaa 40 ee A (35 yaa dib u bixin doona, 5 yaa bixin doona) iyo 20 gudaha B (14 yaa soo celin doona, 6 yaa bixinayn). Isku-dheellitirnaanta tirakoobka ayaa isbarbardhigga heerarka xulashada: 40% iyo 20%. Saamiga 0.5 wuxuu hoos uga dhacayaa afar meelood meel shanaad (0.8) marka loo eego shuruudaha shaqada ee Mareykanka, sidaas darteed way ku guuldareysatay. Fursadaha siman waxa ay isbarbardhigaan heerka togan ee dhabta ah (TPR), saamiga dadka aqoonta leh ayaa la ansixiyay: 35/50 = 0.70 iyo 14/20 = 0.70. Way ku qanacsan tahay. Kharashaadka la siman yahay (Hardt, Price iyo Srebro, 2016) waxay sidoo kale u baahan yihiin qiimayaal been abuur ah oo siman (FPR): 5/50 = 0.10 oo ka soo horjeeda 6/80 = 0.075. Xir, laakiin aan sinnayn. Sinnaan saadaasha ah ayaa isbarbar dhigaya saxnaanta, ama qiimaha saadaasha togan (PPV): 35/40 = 0.875 oo ka soo horjeeda 14/20 = 0.70. Way guuldarraysaa. Marka heerarka salku kala duwan yihiin, sida halkan, kala soocida aan fiicnayn guud ahaan ma wada qancin karo qeexitaanno dhowr ah hal mar. Choldechova (2017) iyo Kleinberg, Mullainathan and Raghavan (2016) waxay caddeeyeen noocyada tan: oo leh heerarka asaasiga ah ee aan sinnayn, sinnaanta saadaalinta ama jaangooyooyinka ma qaban karaan si siman oo siman oo been abuur ah iyo heerar taban oo been ah, marka laga reebo xaaladaha sii xumaanaya sida saadaalinta qumman. Doodda COMPAS waxay ahayd iska horimaadkan. Doorashada cabbirku waxay ku xidhan tahay macnaha guud. Isku dheelitirnaanta tirakoobku waxay ku habboon tahay kiisaska marka calaamadaha laftooda laga yaabo inay eexdo ama halka hadafku yahay helitaan siman. Fursadaha loo siman yahay ayaa ku habboon kiisaska marka maqnaanshaha qof u qalma ay tahay waxyeellada ugu weyn. Maqnaanshaha la siman yahay ayaa ku daraya welwelka ku saabsan eedeymaha beenta ah. Sinnaan saadaasha ama is-habaynta arrimaha marka ay go'aan-sameeyayaashu akhriyaan buundada sida ixtimaalka ahaan. Khalad caam ah ayaa ah in meesha laga saaro sifada la ilaaliyo ay ka dhigayso qaab cadaalad ah. Wakiilada isku xidhan sida zip code-ka waxa ay qaadi karaan xog isku mid ah.
Dhaqangelinta Adduunka-dhabta ah
Shaashadda shaqaalaynta ayaa horumarisa 40% codsadayaasha koox iyo 20% kuwa kale. Saamiga 0.5 wuxuu hoos ugu dhacayaa afar-meelood shanaad qaanuunka suulka ee lagu isticmaalo falanqaynta takoorka shaqada ee Maraykanka, kaas oo tilmaamaya walaaca sinnaanta dadka.
Qaabka baadhista caafimaadku waxa uu qabtaa 70% kiisaska dhabta ah ee labada kooxood. Waxay qancinaysaa fursad isku mid ah, in kasta oo heerarka xulashada kooxuhu ay kala duwan yihiin.
Falanqaynta ProPublica 2016 ee aaladda dib-u-celinta COMPAS waxay ogaatay in eedaysanayaasha madow ay leeyihiin heerar been abuur ah oo sarreeya. Iibiyuhu waxa uu ku jawaabay in buundooyinkeedu ay leeyihiin qiime la mid ah saadaasha kooxaha. Khilaafku wuxuu muujiyay laba cabbir oo caddaalad ah oo isku dhaca tooska ah.
Saynisyahanka xogta ayaa isticmaala Fairlearn's MetricFrame si uu u jebiyo saxnaanta, heerka xulashada iyo qiime been ah oo koox ahaan hoos loogu dhigo. Waxay markaas dalbataa ThresholdOptimizer si ay u dejiso heerar koox-gaar ah oo qanciya jaanisyada siman.
Mustaqbalka Halbeegyada Caddaaladda AI: Wadannimada Dadkoo dhan ilaa Khatar la siman yahay
Halbeegyada kooxda ayaa si isa soo taraysa loogu qorayaa xisaab xidhka iyo xeerinta. Sharciga magaalada New York ee qalabka go'aanka shaqaalaynta tooska ah, tusaale ahaan, wuxuu u baahan yahay hantidhawr eex ah oo ka warbixiya saamiga saamaynta. Cilmi-baadhistu waxay ku sii socotaa caddaaladda shakhsi ahaaneed, caddaaladda sababta, iyo caddaaladda moodooyinka curinta, halkaas oo wax-soo-saarku ay yihiin qoraal halkii ay ka ahaan lahaayeen haa-ama-maya go'aanno iyo cabbirrada caadiga ah si toos ah uma khuseeyaan. Natiijooyinka aan suurtogal ahayn waa xisaab mana bixi doonaan. Horumarka mustaqbalka waxay u badan tahay inuu ka yimaado calaamado ka wanaagsan, dukumeenti wanaagsan oo la doortay ganacsi-offs-ka iyo sababta, iyo fikradda daneeyayaasha marka loo eego halbeeg caalami ah.
Ku dhaqangelinta
Maxay muhiim u tahay
- Qiimaha iyo miisaaniyada. Go'aamada qaab-dhismeedku waxay horseedaan waxqabadka iyo kharashka hawlgalka sannadaha.
- Go'aamo cad. Waxbarashada farsamada waxay ka caawisaa kooxaha inay doortaan xidhmo sax ah, ma aha oo kaliya kan ugu cusub.
- Xakamaynta tayada. Doorashooyinka injineernimada ee wanaagsan waxay yareeyaan shilalka la isku halleyn karo ee wax soo saarka.
Iska ilaali
- Hagaajinta hal bartilmaameed waxay qarin kartaa daciifnimada nidaamka ballaaran.
- Kaabayaasha dhaqaalaha iyo dayactirka inta badan waa la dhayalsadaa.
- Nabadgelyada iyo daldaloolada u fiirsashada ayaa kori kara marka nidaamyadu noqdaan kuwo aad u adag.
Tallaabooyinka xiga
- Qeex daahida, tayada, iyo bartilmaameedyada qiimaha ka hor inta aan la hirgelin.
- Benchmark marka la eego culeyska dhabta ah iyo xaaladaha xogta.
- La socodka qalabka khaladaadka, leexashada, iyo saamaynta isticmaalaha.
- U diyaari dib-u-noqoshada iyo dariiqyada jawaab-celinta dhacdada ka hor inta aanad miisaan.
Sii wad Sahaminta
Warqad bilaash ah
Hel warbixinta maalinlaha ah ee AI
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Take the AI Fairness Metrics: Demographic Parity to Equalized Odds quiz
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Su'aalaha soo noqnoqda
Waa maxay Halbeegyada Caddaaladda AI: Wadannimada Shacbiga ilaa Khatar la siman yahay?
Halbeegyada caddaaladda kooxuhu waxay cabbiraan haddii go'aamada modelka ama khaladaadku ku kala duwan yihiin kooxaha tirakoobka. sinnaanta dadwaynaha waxa ay isbarbardhigaan heerka xulashada, fursadaha siman waxa ay isbarbardhigaan heerka togan ee dhabta ah, jaanisyada la simay waxa ay isbarbardhigaan run iyo been labadaba, sinnaanta saadaalintu waxa ay barbardhigtaa saxnaanta. Qeexitaannadani waa muhiim sababtoo ah waxay isku khilaafi karaan xisaab ahaan, sidaas darteed doorashada mid waa qiimeyn qiime leh oo ku saabsan nooca cadaalad darada ah ee ugu muhiimsan kiis gaar ah.
Tusaalaha daynta ee hagaha, kooxda A waxa ay leedahay 40% doorashada halka kooxda B ay leedahay 20% qiimaha doorashada. Halbeegkee ayay tani jabinaysaa?
Sinaanta dadkoo dhan waxay isbarbardhigaan heerarka xulashada. Saamiga 0.5 wuu guuldarreeyaa oo wuxuu ka hooseeyaa heerka afar-shanaad.
Fursada loo siman yahay ayaa u baahan intee le'eg tahay tirada kooxaha?
Fursadaha loo siman yahay waxay ku weydiinaysaa in dadka u qalma lagu oggolaado isla qiime, taas oo ah heerka togan ee runta ah.
Maxay ku kordhinayaan fursadaha la siman yahay?
Khasaarada siman waxay u baahan yihiin qiimeyaal togan oo siman oo run ah iyo qiime been ah oo siman oo kooxaha oo dhan ah.
Tusaalaha, kooxda B heerka beenta ah ee togan waa 6 ee 80. Waa maxay sababta hooseeye 80?
FPR waxay la mid tahay wanaagga beenta ah oo ay u qaybiyaan dhammaan xumaanta dhabta ah. Kooxda B waxay haysataa 100 codsade 20 ka mid ahina way dib u bixinayaan, taasoo ka tagaysa 80 diidmo ah.
Maxay yihiin natiijooyinka suurtogalka ah ee ka yimid Choldechova iyo Kleinberg et al. dheh?
Marka la eego heerarka sal-dhig ee aan sinnayn, shuruudahan ayaa iska hor imaanaya marka laga reebo xaaladaha sii xumaanaya sida saadaaliye qumman. Doodda COMPAS waxay muujisay khilaafkan ficil ahaan.
Sii wad waxbarashada
Tilmaamaha la xidhiidha
Tilmaamayaal badan ayaa loo doortay mawduucan