VolgendeVolgende gids
Gendertinten en audits voor gezichtsherkenning
Samenleving
Gids voor de samenleving
NYC Local Law 144 vereist dat werkgevers en uitzendbureaus die gebruik maken van geautomatiseerde arbeidsbeslissingsinstrumenten (AEDT’s) voor aanwerving of promotie in New York City elk jaar een onafhankelijke bias-audit ondergaan, een samenvatting van de resultaten publiceren en kandidaten op de hoogte stellen voordat de tool wordt gebruikt.
Luister naar deze gidsAI-verteld · ~3 min
Het was een van de eerste wetten waar dan ook die bias-audits van wervingsalgoritmen vereiste, en de eerste resultaten ervan laten zien wat dergelijke audits aan het licht kunnen brengen en hoe moeilijk ze te handhaven zijn.
De gemeenteraad van New York heeft in 2021 lokale wet 144 aangenomen. Deze werd van kracht op 1 januari 2023 en het Department of Consumer and Worker Protection (DCWP) begon deze op 5 juli 2023 af te dwingen. Een AEDT is een rekenproces dat is afgeleid van machine learning, statistische modellering, data-analyse of AI en dat een vereenvoudigde output afgeeft, zoals een score, classificatie of aanbeveling, die wordt gebruikt om de discretionaire besluitvorming voor werkgelegenheidsbeslissingen substantieel te ondersteunen of te vervangen. De uiteindelijke regels helpen in belangrijke mate eng: bijvoorbeeld door uitsluitend op de output te vertrouwen, deze zwaarder te wegen dan andere criteria, of deze te gebruiken om het menselijk oordeel terzijde te schuiven. Critici beweren dat veel werkgevers hierdoor kunnen besluiten dat hun tools buiten de reikwijdte vallen. Voordat een AEDT wordt gebruikt, moet een werkgever het afgelopen jaar een bias-audit laten uitvoeren door een onafhankelijke auditor en een samenvatting online plaatsen, inclusief de datum van de audit, de distributiedatum van de tool, en selectie- of scorepercentages en impactratio's per geslacht, ras/etniciteit en intersectionele categorieën. Kandidaten en werknemers die inwoners van New York zijn, moeten ten minste tien werkdagen vóór gebruik een kennisgeving ontvangen, inclusief de functiekwalificaties en kenmerken die de tool beoordeelt, en instructies voor het aanvragen van een alternatief proces of accommodatie. De wet verplicht de werkgever niet om dat alternatief te bieden, en stelt geen voldoende score vast: een audit die verschillen aan het licht brengt, maakt het gebruik op zichzelf niet onwettig, hoewel federale en nationale antidiscriminatiewetten nog steeds van toepassing zijn. De straffen bedragen $ 500 voor een eerste overtreding en maximaal $ 1.500 voor daaropvolgende overtredingen. De handhaving lijkt tot nu toe zwak. Uit een academisch onderzoek uit 2024 bleek dat slechts een klein deel van de honderden gecontroleerde werkgevers audits hadden geplaatst, en een audit van de New York State Comptroller die eind 2025 werd vrijgegeven, bekritiseerde de klachtgestuurde handhaving van DCWP. Een veel voorkomende misvatting is dat de wet bevooroordeelde instrumenten verbiedt; het dwingt vooral tot transparantie.
Een retailer die personeel aanneemt in Manhattan maakt gebruik van software die sollicitanten rangschikt op basis van cv-match. Daarom huurt het een onafhankelijke auditor in, berekent de impactratio's op basis van geslacht en ras/etniciteit, en plaatst de samenvatting op zijn carrièrepagina.
Een uitzendbureau dat een AI-tool voor het scoren van video-interviews gebruikt voor vacatures in New York, stuurt kandidaten minimaal tien werkdagen van tevoren een bericht, waarin wordt uitgelegd dat de tool zal worden gebruikt en hoe ze een alternatief proces of accommodatie kunnen aanvragen.
Een bedrijf gebruikt een tool alleen om sollicitatiegesprekken te plannen en niet om kandidaten te scoren of te rangschikken, dus concludeert het dat de tool volgens de regels waarschijnlijk niet substantieel bijdraagt aan een aanwervingsbeslissing.
Een auditor constateert dat minder dan 2 procent van de auditgegevens afkomstig is uit één racecategorie, en de gepubliceerde samenvatting merkt op dat die categorie is uitgesloten van de berekening van de impactratio, zoals de regels toestaan.
Lokale wet 144 is een referentiepunt geworden voor andere voorstellen, waaronder staatswetten en de Colorado AI Act, die het inhuren van mensen onder de risicovolle toepassingen plaatsen. De vroege staat van dienst heeft beleidsmakers ertoe aangezet om bredere definities van de gedekte instrumenten, een duidelijkere handhaving en plichten te overwegen die verder gaan dan openbaarmaking. Stadsbestuurders en raadsleden hebben naar aanleiding van kritiek wijzigingen besproken, hoewel de uitkomst onzeker is. Voor werkgevers is de blijvende les dat het testen van de impactratio, onafhankelijke audits en het op de hoogte stellen van kandidaten de standaardpraktijk worden voor AI bij het aannemen van personeel, ongeacht waar de regels uiteindelijk worden vastgelegd.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
NYC Local Law 144 vereist dat werkgevers en uitzendbureaus die gebruik maken van geautomatiseerde arbeidsbeslissingsinstrumenten (AEDT’s) voor aanwerving of promotie in New York City elk jaar een onafhankelijke bias-audit ondergaan, een samenvatting van de resultaten publiceren en kandidaten op de hoogte stellen voordat de tool wordt gebruikt. Het was een van de eerste wetten waar dan ook die bias-audits van wervingsalgoritmen vereiste, en de eerste resultaten ervan laten zien wat dergelijke audits aan het licht kunnen brengen en hoe moeilijk ze te handhaven zijn.
DCWP heeft de regels aangenomen en is op 5 juli 2023 met de handhaving begonnen.
Het selectiepercentage van elke categorie wordt vergeleken met het selectiepercentage van de hoogste categorie.
De wet vereist een kennisgeving ten minste 10 werkdagen vóór gebruik.
De wet schrijft transparantie voor in plaats van een pass/fail-norm, hoewel andere antidiscriminatiewetten nog steeds van toepassing zijn.
Scorepercentages gebruiken de steekproefmediaan als grenswaarde en worden vervolgens tussen categorieën vergeleken.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Gendertinten en audits voor gezichtsherkenning
Samenleving