GUIDE teknik

Bias bu jaxasoo ci IA

Bias intersectional dafay feeñ sudee sistem bi deful lu baax ci nit ñi ci diggante kategori sosiaal yu bari, doonte resultaa yiñ boole ngir kategori bu nekk dañu melni luñuy nangu.

Déglul tegtal biiIA-nettali · ~3 min

Ci xët wii3 simili jàng
  1. Résumé
  2. Plongeur bu xóot
  3. Doxal ci àdduna dëgg
  4. Ëlëgu njaaxaanaay ci IA
  5. Teg ko ci jëf
  6. Weyal di banneexu
  7. Laaj yi ñuy faral di laaj

Résumé

Dañu jàngat race ak genre benn-benn mën na nëbb njuumte yu gëna mag ci mbooloo mu boole. Càmbaru intersectional dafay wane kan moo ñàkk ci moyenne yu yaatu yi ak audit yu yam yi.

Plongeur bu xóot

Intersectionnalité dafay wane ni kategori sosiaal yi ak sistem yu ñàkk njariñ yi mëna jaxasoo. Ci audit yi masin di jàng, disparité intersectionnelle mooy wuute ci performance wala ci resultaa yi ci benn subgroup buñ boole mu mëna ni mes suñu boole resultaa yi ci benn attribut benn yoon. Doyul ñuy tàqale “race” ak “genre” sudee njuumte bi gëna mag dafay laal benn grupu race-by-genre. Baatu-bi dafay artu itam ci jàpp kategori yi ni ay variable yu moom seen bopp wala yuñ mëna weccoo. Buolamwini ak Gebru’s Gender Shades jàngat nañu ñatti sistem yu ñuy jëfandikoo ngir xaaj góor wala jigéen, ñu jëfandikoo benn référence bu méngoo ak xeetu der bi. Sistem yi ñu natt ñoo gëna bari luñu juum ci jigéen ñi der yi ñuul, ba 34.7%, waaye li gëna bari ci góor ñi der yi weex mooy 0.8%. Gëstu bi dafa wane ni ñaari benchmark yu amoon ñoo gënoon am der yu weex. Resultaa yi dañuy wane li waral composition subgroupe ak evaluation intersectionnelle am solo, waaye ñu ngi jëfandikoo ci sistem yiñ natt, done yi, ak liggéeyu xaaj genre binaire ci jamono jooju. Duñu firndeel dëggug produit yi fi nekk wala ñu baaxal inference genre bi war. Audit yu benn axe mën nañu maskeer jafe-jafe yi ci jël nit ñi, lebal, pajum wérgi-yaram ak yamale ëmbiit li. Benn model mën na satisfaire ab purse ci kategori bu yaatu bu nekk fekk du mëna satisfaire ab groupe intersectionnel bu gëna ndaw. Evaluation dafay laaj misaal yu doy ngir xayma liggéey bi ak ñàkka wóor gi; misaal yu ndaw mën nañu tax metrics yi baña dëgër te mën nañu wane màndarga yu am solo. Ekip yi dañu wara joxe leeral ci ban croisement moo gëna am solo, aar privacy, laaj askan wiñ laal, te moytu joxe xayma yu néew yuy mujjee. Wàññi mën na nekk dajale ay done yu gëna baax ak ndigal, gëna suqali natt gi, soppi mébet bi wala def liggéey bi, ak natt natt yu bari ci wàllu liggéey. Amul benn metric buy jàpp bépp xeetu loraange. Ay tënk ci këyitu dokimaa ak joxe appel wala xoolaat nit ngir dogal yu am njeexital yu rëy. Càmbaru intersectional jëf la buy wéy, du benn yoon kese laata ñu koy génne.

Doxal ci àdduna dëgg

Sistemu jàngat kanam gi dafay baax ci jigéen ñi yépp ak ci ñi der yi gëna ñuul, waaye barina njuumte ci jigéen ñi der yi gëna ñuul.

Résumé ranker dafay jàll ay saytu yu wuute ci wàllu at ak góor wala jigéen waaye dafay wàññi jigéen ñu mag ñi lu ëpp li benn ci jàngat yi wane.

Benn xeetu leble dafay wane tolluwaayu nangu bu noonu ci race ak laago bu wuute ci jamono ji njariñ yi gëna bon ci laajkat yu laago yi ci benn grupu race.

Generatëru ëmbiit li dafay génne ay stéréotype yu boole genre ak ethnicité yu benn-attribut laajwul feeñ.

Ëlëgu njaaxaanaay ci IA

Kategori askan wi ak anam wi ñu koy dugalee dañuy soppiku. Baamtu saytu intersectional yi ginaaw yeesali model yi wala yaatal ci kuréel yu bees. Jàppaleel xayma yu néew yi ni lu wóorul luy laaj firnde wala kaaraange gu gëna baax, te baña firnde ni liggéey bi dafay méngoo. Fexe am yoon wu nit ñi mëna jaar ngir yëgle njuumte yu sistemik yi; jëfandikoo done appel ngir xàmmee kuréel yi ñàkk ci audit bu njëkk bi. Ay kuréeli dokimaa yuñ mënatul jàngat wala jàngataat su amee coppite ci anamu dajale wala ci sàrt yi. Toppal ban korosma lañu muur ci firnde yi ak ban yi des ñu natt leen ndax coppite yi am ci produit bi.

Teg ko ci jëf

Lu tax mu am solo

  • Njëgg ak budget. Dogal yi architecture di jël dañuy indi njariñ ak njëgu liggéey bi ay at ci ginaaw.
  • dogal yu gëna leer. Njàngalem xarala yi dafay jàppale ekip yi ñu tànn li gën, te baña yam ci li gëna bees daal.
  • Xool kalite. Tanneef yu gëna baax ci wàllu ingeñër dina wàññi jafe-jafe yi ci wàllu wóor ci liggéey bi.

Moytul

  • Optimize benn benchmark mën na nëbb ñakk kattan yu gëna yaatu ci sistem bi.
  • Njëg li ñuy fay ci infrastructure yi ak ci toppatoo dañuy faral di suufeel.
  • Bu sistem yi di gëna xawa jafee xam, jafe-jafe yi am ci wàllu kaaraange ak seetlu mën nañu gëna bari.

Jéego yi ci topp

  1. Mandargal latency, kalite, ak njëg yi laata ngay jëfandikoo.
  2. Benchmark ci biir sargal ak done yu dëggu.
  3. Jumtukaay bi di saytu njuumte yi, derive bi ak njeextalu jëfandikukat bi.
  4. Waajal rollback ak yooni tontu ci jafe-jafe yi laata ngay eskale.

Weyal di banneexu

Bulletin bu amul fayda

Jàngal xibaar AI bu bes

Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.

Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.

Nattal sa bopp

Defal quiz bi ci IA

Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.

Tambalil quiz

Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax

Laaj yi ñuy faral di laaj

Luy njaaxaanaay ci IA?

Bias intersectional dafay feeñ sudee sistem bi deful lu baax ci nit ñi ci diggante kategori sosiaal yu bari, doonte resultaa yiñ boole ngir kategori bu nekk dañu melni luñuy nangu. Dañu jàngat race ak genre benn-benn mën na nëbb njuumte yu gëna mag ci mbooloo mu boole. Càmbaru intersectional dafay wane kan moo ñàkk ci moyenne yu yaatu yi ak audit yu yam yi.

Lan mooy tekki njaaxaanaay ci audit IA?

Càmbaru jaxasoo dafay saytu liggéeyu nit ñi ci jaxasoo kategori yi, te xëcc agrégat yu tàqale yi mën nañu ko nëbb.

Ban kuréel moo ëppee njuumte ci sistem yiñ natt ci njàngum Gender Shades?

Gëstu bi dafa wane ni jigéen ñi der yi ñuul ñoo gëna bari luñu leen di juum.

Lan moo wara ànd ak njariñu Gender Shades?

Këyit dafay jàngat sistem komersiyaal yu wuute ak xaaj bu góor ak jigéen; liñu gis warul nekk lu ëpp loolu.

Lan moo waral tàqale race ak genre mën na ñàkka am jafe-jafe?

Moyenne bu yaatu bu am benn màndarga mën na nëbb tolluwaayu njuumte bu gëna bon ci benn subgroupe buñ boole.

Lan lañu wara xamle ci wetu tolluwaayu performance intersectionnel yi?

Gruppe intersectional yu ndaw yi mën nañu joxe xayma yu wóorul, kon dañu soxla lim ak ñàkka xam.