NYC Local Law 144 and AI Hiring Bias Audits

Rada města New York schválila v roce 2021 místní zákon 144. Vstoupil v platnost 1. ledna 2023 a Ministerstvo ochrany spotřebitelů a pracovníků (DCWP) jej začalo vynucovat 5. července 2023. AEDT je výpočetní proces odvozený ze strojového učení, statistického modelování, analýzy dat nebo umělé inteligence, který podstatně napomáhá ke klasifikaci, používá se jako zjednodušený výstup nebo jej nahrazuje. diskreční rozhodování pro rozhodnutí o zaměstnání. Poslední pravidla, která se čte v podstatě úzce, pomáhají: například spoléhat se pouze na výstup, vážit jej více než jiná kritéria nebo jej používat k potlačení lidského úsudku. Kritici tvrdí, že to umožňuje mnoha zaměstnavatelům rozhodnout, že jejich nástroje jsou mimo rozsah. Před použitím AEDT musí zaměstnavatel nechat provést audit zkreslení nezávislým auditorem za poslední rok a zveřejnit shrnutí online, včetně data auditu, data distribuce nástroje a míry výběru nebo bodování a poměry dopadu podle pohlaví, rasy/etnického původu a mezisektorových kategorií. Kandidáti a zaměstnanci, kteří jsou rezidenty NYC, musí obdržet oznámení nejméně 10 pracovních dnů před použitím, včetně kvalifikace práce a charakteristik, které nástroj posuzuje, a pokynů pro vyžádání alternativního postupu nebo ubytování. Zákon nepožaduje od zaměstnavatele, aby tuto alternativu poskytoval, a nestanovuje úspěšnost: audit prokazující nesrovnalosti sám o sobě nepovažuje za nezákonné, ačkoli federální a státní antidiskriminační zákony stále platí. Sankce jsou 500 USD za první porušení a až 1 500 USD za další. Vymáhání se zatím zdálo slabé. Akademická studie z roku 2024 zjistila, že pouze malá část stovek kontrolovaných zaměstnavatelů zveřejnila audity, a audit státního kontrolora státu New York zveřejněný koncem roku 2025 kritizoval vymáhání práva DCWP na základě stížností. Obvyklá mylná představa je, že zákon zakazuje neobjektivní nástroje; vyžaduje především transparentnost.