DalšíDalší průvodce
Genderové odstíny a audity zkreslení rozpoznávání obličeje
Společnost
PRŮVODCE společností
Místní zákon NYC 144 vyžaduje, aby zaměstnavatelé a pracovní agentury, které používají nástroje pro automatizované rozhodování o zaměstnání (AEDT) pro nábor nebo povýšení v New Yorku, každý rok absolvovaly nezávislý audit zkreslení, zveřejnily shrnutí výsledků a informovaly kandidáty před použitím nástroje.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Byl to jeden z prvních zákonů, který vyžadoval audity zkreslení náborových algoritmů, a jeho rané záznamy ukazují, co takové audity mohou odhalit, a jak je těžké je prosadit.
Rada města New York schválila v roce 2021 místní zákon 144. Vstoupil v platnost 1. ledna 2023 a Ministerstvo ochrany spotřebitelů a pracovníků (DCWP) jej začalo vynucovat 5. července 2023. AEDT je výpočetní proces odvozený ze strojového učení, statistického modelování, analýzy dat nebo umělé inteligence, který podstatně napomáhá ke klasifikaci, používá se jako zjednodušený výstup nebo jej nahrazuje. diskreční rozhodování pro rozhodnutí o zaměstnání. Poslední pravidla, která se čte v podstatě úzce, pomáhají: například spoléhat se pouze na výstup, vážit jej více než jiná kritéria nebo jej používat k potlačení lidského úsudku. Kritici tvrdí, že to umožňuje mnoha zaměstnavatelům rozhodnout, že jejich nástroje jsou mimo rozsah. Před použitím AEDT musí zaměstnavatel nechat provést audit zkreslení nezávislým auditorem za poslední rok a zveřejnit shrnutí online, včetně data auditu, data distribuce nástroje a míry výběru nebo bodování a poměry dopadu podle pohlaví, rasy/etnického původu a mezisektorových kategorií. Kandidáti a zaměstnanci, kteří jsou rezidenty NYC, musí obdržet oznámení nejméně 10 pracovních dnů před použitím, včetně kvalifikace práce a charakteristik, které nástroj posuzuje, a pokynů pro vyžádání alternativního postupu nebo ubytování. Zákon nepožaduje od zaměstnavatele, aby tuto alternativu poskytoval, a nestanovuje úspěšnost: audit prokazující nesrovnalosti sám o sobě nepovažuje za nezákonné, ačkoli federální a státní antidiskriminační zákony stále platí. Sankce jsou 500 USD za první porušení a až 1 500 USD za další. Vymáhání se zatím zdálo slabé. Akademická studie z roku 2024 zjistila, že pouze malá část stovek kontrolovaných zaměstnavatelů zveřejnila audity, a audit státního kontrolora státu New York zveřejněný koncem roku 2025 kritizoval vymáhání práva DCWP na základě stížností. Obvyklá mylná představa je, že zákon zakazuje neobjektivní nástroje; vyžaduje především transparentnost.
Maloobchodník, který najímá na Manhattanu, používá software, který řadí uchazeče podle shody životopisů, takže si najme nezávislého auditora, vypočítá poměr dopadu podle pohlaví a rasy/etnické příslušnosti a shrnutí zveřejní na své kariérní stránce.
Personální agentura, která používá nástroj pro hodnocení videorozhovorů AI pro role NYC, zašle kandidátům oznámení nejméně 10 pracovních dnů předem s vysvětlením, jaký nástroj bude použit a jak požádat o alternativní proces nebo ubytování.
Společnost používá nástroj pouze k plánování pohovorů a nepoužívá jej k hodnocení nebo hodnocení kandidátů, takže dochází k závěru, že nástroj pravděpodobně podle pravidel podstatně nepomůže při rozhodování o náboru.
Auditor zjistí, že méně než 2 procenta dat auditu pochází z jedné kategorie závodu, a zveřejněný souhrn uvádí, že kategorie byla vyloučena z výpočtu míry dopadu, jak to pravidla umožňují.
Místní zákon 144 se stal referenčním bodem pro další návrhy, včetně státních zákonů a zákona Colorado AI Act, které řadí najímání mezi vysoce rizikové způsoby použití. Jeho dřívější výsledky přiměly tvůrce politik, aby zvážili širší definice zahrnutých nástrojů, jasnější vymáhání a povinnosti, které jdou nad rámec zveřejňování. Představitelé města a členové rady diskutovali o dodatcích v reakci na kritiku, i když výsledek je nejistý. Pro zaměstnavatele je trvalou lekcí, že testování dopadu, nezávislé audity a upozornění na kandidáty se stávají běžnou praxí AI při najímání bez ohledu na to, kde se pravidla nakonec ustálí.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Místní zákon NYC 144 vyžaduje, aby zaměstnavatelé a pracovní agentury, které používají nástroje pro automatizované rozhodování o zaměstnání (AEDT) pro nábor nebo povýšení v New Yorku, každý rok absolvovaly nezávislý audit zkreslení, zveřejnily shrnutí výsledků a informovaly kandidáty před použitím nástroje. Byl to jeden z prvních zákonů, který vyžadoval audity zkreslení náborových algoritmů, a jeho rané záznamy ukazují, co takové audity mohou odhalit, a jak je těžké je prosadit.
DCWP přijala pravidla a začala je uplatňovat 5. července 2023.
Míra výběru každé kategorie se porovnává s mírou výběru nejvyšší kategorie.
Zákon vyžaduje oznámení alespoň 10 pracovních dnů před použitím.
Zákon nařizuje transparentnost spíše než standard vyhovuje/nevyhovuje, i když stále platí jiné antidiskriminační zákony.
Hodnoty skóre používají jako mezní hodnotu medián vzorku a poté se porovnávají mezi kategoriemi.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Genderové odstíny a audity zkreslení rozpoznávání obličeje
Společnost