Gids voor de samenleving

NYC Local Law 144 en AI Hiring Bias Audits

NYC Local Law 144 vereist dat werkgevers en uitzendbureaus die gebruik maken van geautomatiseerde arbeidsbeslissingsinstrumenten (AEDT’s) voor aanwerving of promotie in New York City elk jaar een onafhankelijke bias-audit ondergaan, een samenvatting van de resultaten publiceren en kandidaten op de hoogte stellen voordat de tool wordt gebruikt.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van NYC Local Law 144 en AI Hiring Bias Audits
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Het was een van de eerste wetten waar dan ook die bias-audits van wervingsalgoritmen vereiste, en de eerste resultaten ervan laten zien wat dergelijke audits aan het licht kunnen brengen en hoe moeilijk ze te handhaven zijn.

Diepe duik

De gemeenteraad van New York heeft in 2021 lokale wet 144 aangenomen. Deze werd van kracht op 1 januari 2023 en het Department of Consumer and Worker Protection (DCWP) begon deze op 5 juli 2023 af te dwingen. Een AEDT is een rekenproces dat is afgeleid van machine learning, statistische modellering, data-analyse of AI en dat een vereenvoudigde output afgeeft, zoals een score, classificatie of aanbeveling, die wordt gebruikt om de discretionaire besluitvorming voor werkgelegenheidsbeslissingen substantieel te ondersteunen of te vervangen. De uiteindelijke regels helpen in belangrijke mate eng: bijvoorbeeld door uitsluitend op de output te vertrouwen, deze zwaarder te wegen dan andere criteria, of deze te gebruiken om het menselijk oordeel terzijde te schuiven. Critici beweren dat veel werkgevers hierdoor kunnen besluiten dat hun tools buiten de reikwijdte vallen. Voordat een AEDT wordt gebruikt, moet een werkgever het afgelopen jaar een bias-audit laten uitvoeren door een onafhankelijke auditor en een samenvatting online plaatsen, inclusief de datum van de audit, de distributiedatum van de tool, en selectie- of scorepercentages en impactratio's per geslacht, ras/etniciteit en intersectionele categorieën. Kandidaten en werknemers die inwoners van New York zijn, moeten ten minste tien werkdagen vóór gebruik een kennisgeving ontvangen, inclusief de functiekwalificaties en kenmerken die de tool beoordeelt, en instructies voor het aanvragen van een alternatief proces of accommodatie. De wet verplicht de werkgever niet om dat alternatief te bieden, en stelt geen voldoende score vast: een audit die verschillen aan het licht brengt, maakt het gebruik op zichzelf niet onwettig, hoewel federale en nationale antidiscriminatiewetten nog steeds van toepassing zijn. De straffen bedragen $ 500 voor een eerste overtreding en maximaal $ 1.500 voor daaropvolgende overtredingen. De handhaving lijkt tot nu toe zwak. Uit een academisch onderzoek uit 2024 bleek dat slechts een klein deel van de honderden gecontroleerde werkgevers audits hadden geplaatst, en een audit van de New York State Comptroller die eind 2025 werd vrijgegeven, bekritiseerde de klachtgestuurde handhaving van DCWP. Een veel voorkomende misvatting is dat de wet bevooroordeelde instrumenten verbiedt; het dwingt vooral tot transparantie.

Implementatie in de echte wereld

Een retailer die personeel aanneemt in Manhattan maakt gebruik van software die sollicitanten rangschikt op basis van cv-match. Daarom huurt het een onafhankelijke auditor in, berekent de impactratio's op basis van geslacht en ras/etniciteit, en plaatst de samenvatting op zijn carrièrepagina.

Een uitzendbureau dat een AI-tool voor het scoren van video-interviews gebruikt voor vacatures in New York, stuurt kandidaten minimaal tien werkdagen van tevoren een bericht, waarin wordt uitgelegd dat de tool zal worden gebruikt en hoe ze een alternatief proces of accommodatie kunnen aanvragen.

Een bedrijf gebruikt een tool alleen om sollicitatiegesprekken te plannen en niet om kandidaten te scoren of te rangschikken, dus concludeert het dat de tool volgens de regels waarschijnlijk niet substantieel bijdraagt ​​aan een aanwervingsbeslissing.

Een auditor constateert dat minder dan 2 procent van de auditgegevens afkomstig is uit één racecategorie, en de gepubliceerde samenvatting merkt op dat die categorie is uitgesloten van de berekening van de impactratio, zoals de regels toestaan.

De toekomst van NYC Local Law 144 en AI Hiring Bias Audits

Lokale wet 144 is een referentiepunt geworden voor andere voorstellen, waaronder staatswetten en de Colorado AI Act, die het inhuren van mensen onder de risicovolle toepassingen plaatsen. De vroege staat van dienst heeft beleidsmakers ertoe aangezet om bredere definities van de gedekte instrumenten, een duidelijkere handhaving en plichten te overwegen die verder gaan dan openbaarmaking. Stadsbestuurders en raadsleden hebben naar aanleiding van kritiek wijzigingen besproken, hoewel de uitkomst onzeker is. Voor werkgevers is de blijvende les dat het testen van de impactratio, onafhankelijke audits en het op de hoogte stellen van kandidaten de standaardpraktijk worden voor AI bij het aannemen van personeel, ongeacht waar de regels uiteindelijk worden vastgelegd.

Het in de praktijk brengen

Waarom het ertoe doet

  • Risico en veiligheid. Catastrofale en alledaagse schade door AI hangt af van wie de risico's begrijpt en wie kan handelen.
  • Duidelijkere beslissingen. Publieke en professionele geletterdheid bepalen of een krachtig veiligheidsbeleid politiek mogelijk is.
  • Door de hype heen snijden. Duidelijke verklaringen verminderen de kans op hypes, laboratorium-PR en vaag ethisch theater.

Pas op voor

  • Existentieel risico behandelen als sciencefiction, terwijl capaciteiten zich vermenigvuldigen.
  • De veiligheid van oppervlakteproducten verwarren met uitlijning onder hoge autonomie.
  • Hierdoor blijven niet-Engelstalige en niet-deskundige doelgroepen alleen bronnen van lage kwaliteit over.

Volgende stappen

  1. Afzonderlijke risico's voor productschade, misbruik en verlies van controle/verkeerde uitlijning.
  2. Vraag welk bewijs uw kijk op tijdlijnen en ernst zou veranderen.
  3. Geef de voorkeur aan primaire bronnen en concrete evaluaties boven marketingclaims.
  4. Identificeer één actiepad: carrière, beleid, financiering of vaardigheden – niet alleen bewustwording.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the NYC Local Law 144 and AI Hiring Bias Audits quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is NYC Local Law 144 en AI Hiring Bias Audits?

NYC Local Law 144 vereist dat werkgevers en uitzendbureaus die gebruik maken van geautomatiseerde arbeidsbeslissingsinstrumenten (AEDT’s) voor aanwerving of promotie in New York City elk jaar een onafhankelijke bias-audit ondergaan, een samenvatting van de resultaten publiceren en kandidaten op de hoogte stellen voordat de tool wordt gebruikt. Het was een van de eerste wetten waar dan ook die bias-audits van wervingsalgoritmen vereiste, en de eerste resultaten ervan laten zien wat dergelijke audits aan het licht kunnen brengen en hoe moeilijk ze te handhaven zijn.

Welke instantie handhaaft lokale wet 144 van NYC?

DCWP heeft de regels aangenomen en is op 5 juli 2023 met de handhaving begonnen.

Hoe wordt een impactratio berekend voor een selectietool?

Het selectiepercentage van elke categorie wordt vergeleken met het selectiepercentage van de hoogste categorie.

Hoeveel werkdagen vóór het gebruik van een AEDT moeten kandidaten op de hoogte worden gesteld?

De wet vereist een kennisgeving ten minste 10 werkdagen vóór gebruik.

Wat vereist Lokale Wet 144 als een audit grote verschillen aan het licht brengt?

De wet schrijft transparantie voor in plaats van een pass/fail-norm, hoewel andere antidiscriminatiewetten nog steeds van toepassing zijn.

Wat is het scorepercentage voor tools die scores uitvoeren?

Scorepercentages gebruiken de steekproefmediaan als grenswaarde en worden vervolgens tussen categorieën vergeleken.