DalšíDalší v Zodpovědný uživatel AI
AI a soukromí
Společnost
PRŮVODCE společností
Zkreslení AI může vzniknout z dat, měření, modelování, lidských úsudků a širšího systému, ve kterém se model používá.
Poslechněte si tento návodAI-vyprávěný · ~2 min
Některé vzorce mohou mít nespravedlivé nebo škodlivé výsledky. Vyhodnocení zkreslení vyžaduje definování kontextu a důsledků, nikoli pouze odstranění citlivého sloupce z datové sady.
Prozkoumejte, jak byly shromážděny příklady a štítky. Chybějící populace, nekonzistentní anotace, historická rozhodnutí a selektivní měření mohou ovlivnit to, co se model naučí. Cílové označení může odrážet starý proces spíše než základní výsledek, na kterém se lidé zajímají. Měřte výkon napříč relevantními skupinami a podmínkami pomocí vhodných kontrol ochrany soukromí. Uveďte velikosti vzorků a nejistotu. Malá podskupina může mít nespolehlivé odhady, zatímco globální průměr může skrývat velký a prakticky významný rozdíl. Různá kritéria spravedlnosti odpovídají na různé otázky a mohou být v rozporu. Vyrovnání jednoho statistického měřítka nevyřeší všechny etické nebo právní obavy. Vyberte kritéria s odborností v dané oblasti a zapojením lidí ovlivněných systémem. Zkontrolujte pracovní postup kolem modelu. Způsob použití předpovědí, kdo může zpochybnit výsledek a způsob shromažďování zpětné vazby může změnit rozložení škod. Vyhodnoťte zmírnění z hlediska jejich zamýšleného účinku i možných nových problémů. Považujte férovost spíše za průběžné hodnocení než jako jednorázový certifikát.
04Zpracovaný příklad
Ve vynalezeném testu má skupina A 900 příkladů s 95% přesností, zatímco skupina B má 100 příkladů s 60% přesností.
Celkovému výsledku dominuje skupina A. Skupinu B uveďte samostatně a zkontrolujte její chyby a nejistotu vzorku.
Prozkoumejte datové pokrytí a příčiny pracovního postupu, než zvolíte zmírnění.
Co ukazuje
Tyto hypotetické počty ilustrují, proč souhrnné skóre nemůže stanovit spravedlivý výkon.
Porovnejte chybovost v reálných provozních podmínkách se zobrazenými velikostmi vzorků.
Zkontrolujte, zda štítek školení zachycuje minulé rozhodnutí spíše než zamýšlený výsledek.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Ne jen tím krokem. Proměnné proxy, štítky, postupy shromažďování a rozhodnutí o nasazení mohou stále vést k nestejným výsledkům.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší v Zodpovědný uživatel AI
AI a soukromí
Společnost