GUIDE Sosiete

Ombres genre ak xàmmee kanam

Jàngat la bu Joy Buolamwini ak Timnit Gebru amal ci atum 2018, jàngat sistemu jàngat kanam yu bawoo ci IBM, Microsoft ak Face++.

Déglul tegtal biiIA-nettali · ~3 min

Ci xët wii4 simili jàng
  1. Résumé
  2. Plongeur bu xóot
  3. Doxal ci àdduna dëgg
  4. Ëlëgu lëndëm yu góor ak jigéen ak xàmmee kanam yi
  5. Teg ko ci jëf
  6. Weyal di banneexu
  7. Laaj yi ñuy faral di laaj

Résumé

Gis nañu ni seeni tànneef ci wàllu góor ak jigéen moo gëna néew luñu koy xaaj ci jigéen ñi der yi ñuul moo gëna néew ci góor ñi der yi gëna weex. Jàngat bi amna solo ndax defna audit intersectional, buy xaaj resultaa yi ci ay màndarga yuñ boole, du benn yoon, anam wu ñuy jaar ngir wane ay njuumte yu nëbbu ci IA.

Plongeur bu xóot

Joy Buolamwini, bimu nekkee ci MIT Media Lab ci jamono jooju, dafa seetlu ni losisel biy gis kanam gi bindul kanamam ba keroog muy sol mask bu weex. Ak Timnit Gebru, defar nañu ab audit buñ yamale ba noppi siiwal ko ci ndaje bu mag bu 2018 ci wàllu yoon, joxe leeral ak leer. Benchmark yi fi nekkoon, góor ñi ñoo ëppoon doole ci der yi, moo tax ñu tabax seen bopp, di Pilot Parlements Benchmark. Defa am 1270 nataalu ndawu pencum ndawu réew yu bawoo ci ñetti réew yu Afrique ak ñetti réew yu Orop, ñu bind leen ci xeetu góor wala jigéen ak xeetu der ci eskaalu Fitzpatrick bu dermatologist yi. Natt nañu sarwiisu xaaj góor wala jigéen bu IBM, Microsoft ak Face++. Ñoom ñatt ñoo gëna baax ci góor ñi moo gëna baax ci jigéen ñi, ba noppi ci der yu weex yi moo gëna baax ci der yu ñuul yi. Resultaa yi gëna bon ñu ngi feeñ ci barab yi ñaar yi jaxasoo. Jumtukaay yi ci jigéen ñi der yi gëna ñuul yegg nañu lu tollu ci 35 pursaa ci sistem bi gëna bon, waaye góor ñi der yi gëna weex yegg nañu ci lu néew 1 pursaa. Benn lim bu leer moo nëbb bërëb bi. Benn topp ci atum 2019 bu Inioluwa Deborah Raji ak Buolamwini, "Kontu buñ mëna jëfandikoo," dafa wane ni sosete yiñ kontoo dañu wàññi seen bërëb ginaaw bi ñu leen joxee tur ci mbooloo mi. Jaaykat yiñu xoolul, lu ci melni Amazon, dañu wane wuute yu noonu mel. Amazon dafa weddi njuréef yi. Li ñu bari gëm mooy Gender Shades dafay natt kanam gi poliis di jëfandikoo ngir xàmmee nit ñi. Dafay natt xaajalug góor ak jigéen. Firnde ci ràññeekaay bi mingi joge ci rapooru njeexte demografik bu 2019 bu NIST, bi natt luy tollu ci 200 algorithm. Lu bari ci ñoom deñoo am njuumte bu gëna rëy ci yenn mboolo, lu ci melni kanam yu Afrique ak Asie Penku, lu bari ci ay fakteer yu mag, fekk algorithm yi gëna dëggu dañu wane ay wute yu gëna ndaw. Gaañ-gaañu dëgg topp ci. Robert Williams, Nijeer Parks ak Porcha Woodruff, ñoom ñëpp ay ñuul lañu japp ci lu jaarul yoon ginnaaw bi ñu xamme seen kanam. Ci weeru suen 2020, IBM dafa wax ni dina bàyyi liggéeyum xàmmee kanam yi, Amazon dakkal jëfandikoo poliis bi ci Rekognition, ba noppi Microsoft neena du jaay poliisu Etats Unis ba keroog ñuy tëral sàrt federal.

Doxal ci àdduna dëgg

Benn ekipu produit rapoor kanam xool bu jaar yoon wuute ngir jigeen yu der yu ñuul, goor yu der yu ñuul, jigeen yu der yu weex ak goor yu der yu weex, ludul siiwal benn nimero boppu bu mëna nëbb benn subgroup bu lajj.

Robert Williams, ap waay bu ñuul ci Detroit, deñ kaa japp ci 2020 ginnaaw bi ñu xamme kanam gi mu méngoo ak nataalu permi dawal bi ak widewo sàcc bu benn butig. Ñu dakkal tuuma yi, ci ganaw ga ñu déggoo ba soppi sàrti poliisu Detroit ci jëfandikoo alumet yu mel noonu.

Laata ñuy nangu jaaykat, biro biy jënd ci dëkk bi dafay xool njariñu test demografik bu NIST ngir xam xeetu algorithm bi ñuy jaay, ndax njuumte yi dañu wuute lool ci algorithm yi.

Gëstukat bi defar na test bu méngoo ak xeetu der bi ak góor wala jigéen, topp ci Pilot Parlements Benchmark, ngir xool kanam bu bees ndax amna ay bërëb balaa ñu koy génne.

Ëlëgu lëndëm yu góor ak jigéen ak xàmmee kanam yi

Xamme kanam gi dafa gëna dëggu ci moyenne, te test yu NIST wéy di wane wuute demographique yi dañuy wàññeeku ci algorithm yi gëna mag, waaye duñu ni mes, te dañuy des ci ñeneen ñu bari. Politik baa ngi xaajaloo. Yenn dëkk yu Amerik yi deñuy tere nguur gi jëfandikoo, sartu juntuwaay yu bees yu EU defay tënk bu baax ràññeekaay biometrik ci bërëbi mboolo ci poliis bi, te yenn jaaykat yi dinndinañu yenn porodiwi yi. Japp yu jaarul yoon ñungi wey di puus departemaa yu poliis yi ngir jappe match yi ni ay njiit rek. Xeetu Gender Shades bi, di siiwal ay resilta yu xaajale ak joxe tur jaaykat yi, leegi ñungi koy jëfandikoo bu baax ngir saytu yeneen sistem yu juntuwaay yu bees yu mel ni lakk yi ak defarkatu nataal yi.

Teg ko ci jëf

Lu tax mu am solo

  • Risk ak kaaraange. Gaañ-gaañu IA yu mag yi ak yu bës bu nekk yépp a ngi aju ci ki xam risk yi ak ki mëna def dara.
  • dogal yu gëna leer. Liggéeyukaay ak xam-xam bu ñépp bokk mooy wane ndax politiku kaaraange bu dëgër mën na am ci wàllu politik.
  • Dagg ci hype. Faram-fàcce yu leer dañuy wàññi li ñuy jàpp ci hype, PR lab, ak tiyaatar bu leerul.

Moytul

  • Jàppale risku nekk gi ni siyaas fiksioŋ fekk kàttan gi dafay yokk.
  • Jaxasoo kaaraange produit surface ak jubluwaay ci suufu autonomie bu kawe.
  • Bàyyi nit ñi xamul làkku Àngle ak ñi xamul làkku Angale, ñu am balluwaay yu baaxul.

Jéego yi ci topp

  1. Tàqale loraange yi ci produit bi, jëfandikoo bu baaxul, ak risku ñàkka mëna yor / ñàkka méngoo.
  2. Laajteel ban firnde mooy soppi sa xalaat ci kalendriye yi ak tar gi.
  3. Danga taamu balluwaay yu njëkk yi ak jàngat yu fëgër yi moo gën waxtaanu njaay mi.
  4. Xaarandil benn yoonu jëf: liggéey, politik, xaalis, wala xam-xam — du xam-xam kese.

Weyal di banneexu

Bulletin bu amul fayda

Jàngal xibaar AI bu bes

Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.

Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.

Nattal sa bopp

Defal quiz biy saytu ni ñuy xàmmee góor wala jigéen ak xàmmee kanam

Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.

Tambalil quiz

Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax

Laaj yi ñuy faral di laaj

Luy Xam-xam Xam-xam Xam-xam Kanam?

Jàngat la bu Joy Buolamwini ak Timnit Gebru amal ci atum 2018, jàngat sistemu jàngat kanam yu bawoo ci IBM, Microsoft ak Face++. Gis nañu ni seeni tànneef ci wàllu góor ak jigéen moo gëna néew luñu koy xaaj ci jigéen ñi der yi ñuul moo gëna néew ci góor ñi der yi gëna weex. Jàngat bi amna solo ndax defna audit intersectional, buy xaaj resultaa yi ci ay màndarga yuñ boole, du benn yoon, anam wu ñuy jaar ngir wane ay njuumte yu nëbbu ci IA.

Ban liggéeyukaay la Gender Shades jàngat kanam yi?

Jàngat bu 2018 dafa natt IBM, Microsoft ak Face++. Amazon lañu xool ci toppu 2019.

Lan lañu defaree référence bu Parlement Pilot bi?

Benchmark bi jëfandikoo na 1270 nataali pencum ndawu réew yu bawoo ci 6 réew, ñu tànnee leen ngir méngale góor ak jigéen ak xeetu der bi.

Ban balans la gëstukat yi jëfandikoo ngir màndargaal xeetu der bi?

Jëfandikoo nañu balansu Fitzpatrick bu bawoo ci dermatologie. Yenn liggéey yu ci topp dañu jëfandikoo balans yu gëna yaatu lu melni balansu Monk.

Ban liggéey la Gender Shades natt?

Gëstu bi dafa natt xaajalug góor ak jigéen. Li ñu gëna bari luñu ko juum mooy dafay natt sistemu ràññeekaay yi poliis di jëfandikoo.

Ban sous-groupe moo ëppee njuumte ci Gender Shades?

Jumtukaay yi dañu yéeg lool ci barab yi ñaari màndarga yi dajaloo, ci jigéen ñi der yi gëna ñuul, dem ba yegg ci 35 pursaa ci sistem bi gëna bon.