AVG en geautomatiseerde besluitvorming
De Algemene Verordening Gegevensbescherming van de EU geeft mensen rechten wanneer computers automatisch belangrijke beslissingen over hen nemen.
Overzicht
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Diepe duik
De AVG, van kracht sinds mei 2018, is de belangrijkste privacywet van de EU. De meest relevante bepaling voor AI is artikel 22, waarin staat dat mensen het recht hebben om niet te worden onderworpen aan een besluit dat uitsluitend is gebaseerd op geautomatiseerde verwerking en dat juridische of soortgelijke significante gevolgen heeft, zoals automatische weigeringen van leningen of geautomatiseerde afwijzingen van aanwervingen. Er zijn uitzonderingen: de beslissing kan worden toegestaan als deze noodzakelijk is voor een contract, wettelijk is toegestaan of gebaseerd is op uitdrukkelijke toestemming. Zelfs dan moet de organisatie waarborgen bieden, waaronder het recht op menselijk ingrijpen, het recht om uw standpunt te uiten en het besluit aan te vechten. Artikel 22 is van toepassing wanneer de beslissing uitsluitend geautomatiseerd en significant is, ongeacht of er AI bij betrokken was.
Technisch inzicht
Artikel 22 berust op twee drempels: het besluit moet uitsluitend geautomatiseerd zijn (geen betekenisvolle menselijke tussenkomst) en juridische of soortgelijke significante gevolgen hebben. Een menselijke beoordeling van de output van een algoritme telt niet als zinvolle beoordeling. In combinatie met de artikelen 13 tot en met 15 moeten verwerkingsverantwoordelijken betekenisvolle informatie verstrekken over de betrokken logica. Dit duwt bedrijven in de richting van verklaarbare modellen en auditlogboeken, omdat ze moeten kunnen beschrijven hoe de input tot een besluit leidt.
Strategische impact
Risk and safety
Catastrofale en alledaagse schade door AI hangt af van wie de risico's begrijpt en wie kan handelen.
Clearer decisions
Publieke en professionele geletterdheid bepalen of een krachtig veiligheidsbeleid politiek mogelijk is.
Cutting through hype
Duidelijke verklaringen verminderen de kans op hypes, laboratorium-PR en vaag ethisch theater.
De toekomst van GDPR en geautomatiseerde besluitvorming
De handhaving van de AVG wordt steeds intensiever en overlapt nu met de EU AI Act, die risicogedifferentieerde verplichtingen toevoegt aan systemen met een hoog risico, zoals kredietscore en aanwerving. Verwacht meer begeleiding over wat telt als een uitsluitend geautomatiseerde beslissing, strengere controle op profilering en hoge boetes (tot 4% van de wereldwijde omzet). Rechtbanken, waaronder het Hof van Justitie van de EU in de SCHUFA-kredietscorezaak, zijn actief bezig met het verduidelijken wanneer het genereren van een score zelf aanleiding geeft tot artikel 22-bescherming.
Implementatie in de echte wereld
Een bank wijst automatisch een creditcardaanvraag af met behulp van een scorealgoritme en moet de aanvrager vervolgens een manier bieden om menselijke beoordeling aan te vragen.
Een online kredietverstrekker moet een afgewezen kredietnemer de belangrijkste factoren achter een geautomatiseerde weigering vertellen, onder het recht op zinvolle informatie over de logica.
Een gig-economy-platform dat bestuurders automatisch deactiveert op basis van beoordelingen, wordt geconfronteerd met uitdagingen op grond van artikel 22 ten aanzien van uitsluitend geautomatiseerde ontslagen.
Een recruiter die AI-software voor cv-screening gebruikt, moet een menselijk controlepunt inbouwen voordat hij definitief wordt afgewezen om aan artikel 22 te voldoen.
Risico's en vangrails
Existentieel risico behandelen als sciencefiction, terwijl capaciteiten zich vermenigvuldigen.
De veiligheid van oppervlakteproducten verwarren met uitlijning onder hoge autonomie.
Hierdoor blijven niet-Engelstalige en niet-deskundige doelgroepen alleen bronnen van lage kwaliteit over.
Implementatie routekaart
Afzonderlijke risico's voor productschade, misbruik en verlies van controle/verkeerde uitlijning.
Vraag welk bewijs uw kijk op tijdlijnen en ernst zou veranderen.
Geef de voorkeur aan primaire bronnen en concrete evaluaties boven marketingclaims.
Identificeer één actiepad: carrière, beleid, financiering of vaardigheden – niet alleen bewustwording.
Blijf verkennen
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
AI-besluitvorming
Frequently asked questions
What is GDPR and Automated Decision-Making?
De Algemene Verordening Gegevensbescherming van de EU geeft mensen rechten wanneer computers automatisch belangrijke beslissingen over hen nemen. Het is een van de meest invloedrijke regels ter wereld die bepalen hoe AI-systemen op Europeanen kunnen worden gebruikt.
Welk AVG-artikel gaat specifiek in op beslissingen die uitsluitend op geautomatiseerde verwerking zijn gebaseerd?
Artikel 22 verleent individuen het recht om niet onderworpen te worden aan beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking en die juridische of vergelijkbare significante gevolgen hebben.
Om artikel 22 van toepassing te laten zijn, moet het geautomatiseerde besluit doorgaans welk effect hebben?
De bescherming treedt in werking wanneer een besluit rechtsgevolgen heeft of op soortgelijke wijze aanzienlijke gevolgen heeft voor de persoon, zoals een weigering van een lening of een afwijzing van een baan.
Wanneer een uitsluitend geautomatiseerd besluit op grond van een uitzondering is toegestaan, welke waarborgen moet de organisatie dan doorgaans bieden?
Waarborgen omvatten het recht op menselijk ingrijpen, het recht om zijn standpunt te uiten en het besluit aan te vechten.
Wat betekent een mens die alleen maar de uitvoer van een algoritme afstempelt voor artikel 22?
Zinvolle menselijke betrokkenheid vereist oprechte toetsing en autoriteit om terzijde te schuiven; een symbolische aftekening houdt de beslissing binnen het toepassingsgebied van artikel 22.