VolgendeVolgende gids
Britse Online Safety Act en AI-chatbots
Samenleving
Gids voor de samenleving
AI-chatbots die door minderjarigen worden gebruikt, vallen onder verschillende overlappende soorten wetgeving.
Luister naar deze gidsAI-verteld · ~3 min
Er zijn privacywetten voor kinderen, zoals de Amerikaanse COPPA, platformveiligheidsregimes zoals de UK Online Safety Act, en een nieuwe golf van wetten voor begeleidende chatbots, zoals de SB 243 uit Californië. Samen duwen ze diensten in de richting van leeftijdscontroles, openbaarmaking dat de gebruiker met een AI praat, en protocollen voor gesprekken over zelfbeschadiging. Deze regels zijn van belang omdat chatbots in gezelschapsstijl intense relaties kunnen aangaan met jonge gebruikers, en rechtszaken hebben sommige van deze relaties met ernstige schade in verband gebracht.
Er is geen enkele wet die betrekking heeft op AI-chatbots en kinderen; verschillende regimes overlappen elkaar. Privacy: De Amerikaanse Children's Online Privacy Protection Act (COPPA), gehandhaafd door de Federal Trade Commission, is van toepassing op onlinediensten gericht op kinderen onder de 13 jaar en op exploitanten die feitelijk weten dat zij de gegevens van dergelijke kinderen verzamelen. Ze hebben verifieerbare toestemming van de ouders nodig voordat ze persoonlijke informatie verzamelen. De FTC heeft in 2025 de wijzigingen in de COPPA-regel afgerond, waardoor de beperkingen op het delen met derden en het bewaren van gegevens zijn aangescherpt. In september 2025 opende het ook een 6(b)-onderzoek naar de invloed van de begeleidende chatbots van verschillende grote bedrijven op kinderen en tieners. Platformveiligheid: De Britse Online Safety Act 2023 legt verplichtingen op aan gebruikers-tot-gebruiker- en zoekdiensten, en Ofcom heeft verklaard dat generatieve AI-chatbots binnen het toepassingsgebied kunnen vallen. Sinds juli 2025 moeten diensten die waarschijnlijk toegankelijk zijn voor kinderen, hen beschermen tegen de schadelijkste inhoud, inclusief materiaal dat zelfmoord of zelfbeschadiging aanmoedigt, vaak door middel van ‘zeer effectieve’ leeftijdsgarantie. Wetten voor begeleidende chatbots: de SB 243 van Californië, ondertekend in oktober 2025 en van kracht vanaf januari 2026, is gericht op begeleidende chatbots. Operators moeten bekendmaken dat de chatbot AI is waardoor gebruikers kunnen worden misleid, en protocollen handhaven om inhoud te voorkomen die zelfmoord of zelfbeschadiging aanmoedigt en om gebruikers door te verwijzen naar crisisdiensten. Voor gebruikers waarvan bekend is dat ze minderjarig zijn, moet de chatbot hen er periodiek aan herinneren een pauze te nemen en dat het niet menselijk is, en moet de operator redelijke maatregelen nemen om seksueel expliciete inhoud te voorkomen. Het vereist ook jaarlijkse rapportage en maakt particuliere rechtszaken mogelijk. New York heeft in 2025 zijn eigen AI-metgezelwaarborgen ingevoerd. Proces: In Garcia v. Character Technologies, ingediend in 2024, beweerde een moeder uit Florida dat een Character.AI-chatbot heeft bijgedragen aan de dood van haar zoon; in 2025 liet de rechtbank de meeste claims doorgaan. Raine v. OpenAI, ingediend in 2025, maakt soortgelijke beschuldigingen over ChatGPT. Een veel voorkomende misvatting is dat een selectievakje "13+" de zaak oplost. Veel van deze regels zijn gebaseerd op feitelijke kennis, het waarschijnlijke publiek of redelijke maatregelen.
Een chatbot voor huiswerkhulp gericht op kinderen onder de 13 jaar in de VS moet verifieerbare toestemming van de ouders krijgen voordat deze de persoonlijke gegevens van een kind verzamelt, zoals COPPA vereist.
Een begeleidende chatbot-app die in Californië wordt gebruikt, moet gebruikers vertellen dat het niet menselijk is als een redelijk persoon kan worden misleid. Het moet ook een protocol handhaven dat gebruikers die suïcidale gedachten uiten, doorverwijst naar crisisdiensten.
Een dienst waarmee Britse gebruikers door AI gegenereerde inhoud met elkaar kunnen delen, valt waarschijnlijk onder de Online Safety Act. Er kan een zeer effectieve leeftijdsgarantie nodig zijn om kinderen weg te houden van de schadelijkste inhoud.
De familie van een tiener die zelfmoord heeft gepleegd, klaagt een chatbotmaker aan. De rechtszaak stelt dat het ontwerp van het product, en niet alleen wat er op stond, gebrekkig was en voorzienbare schade veroorzaakte.
Steeds meer Amerikaanse staten overwegen wetten over begeleidende chatbots, en er is discussie over de vraag of federale regels daarop moeten ingaan. Rechtbanken beslissen nog steeds of de output van chatbots geldt als beschermde meningsuiting of als een product dat defect kan zijn. Vroege uitspraken hebben sommige claims doorgang laten vinden, maar de vragen zijn nog lang niet opgelost. Bedrijven hebben ouderlijk toezicht en tienermodi toegevoegd, en sommige hebben de chat met een open einde voor minderjarigen beperkt. Verwacht van toezichthouders dat zij om bewijs vragen dat protocollen voor leeftijdsgarantie en zelfbeschadiging daadwerkelijk werken, en niet alleen dat er beleid bestaat.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
AI-chatbots die door minderjarigen worden gebruikt, vallen onder verschillende overlappende soorten wetgeving. Er zijn privacywetten voor kinderen, zoals de Amerikaanse COPPA, platformveiligheidsregimes zoals de UK Online Safety Act, en een nieuwe golf van wetten voor begeleidende chatbots, zoals de SB 243 uit Californië. Samen duwen ze diensten in de richting van leeftijdscontroles, openbaarmaking dat de gebruiker met een AI praat, en protocollen voor gesprekken over zelfbeschadiging. Deze regels zijn van belang omdat chatbots in gezelschapsstijl intense relaties kunnen aangaan met jonge gebruikers, en rechtszaken hebben sommige van deze relaties met ernstige schade in verband gebracht.
COPPA vereist verifieerbare ouderlijke toestemming voordat een dienst persoonlijke informatie verzamelt van kinderen onder de 13 jaar, en de FTC handhaaft deze.
Ofcom handhaaft de Online Safety Act en heeft verklaard dat generatieve AI-chatbots binnen de reikwijdte kunnen vallen.
SB 243 vereist protocollen voor zelfbeschadiging met crisisverwijzingen, openbaarmaking van AI en extra bescherming voor bekende minderjarigen. Het verbiedt geen chatbots voor minderjarigen.
Voor bekende minderjarigen voegt de wet ‘break-and-not-human’-herinneringen en maatregelen tegen seksueel expliciete inhoud toe.
Wettelijke plichten zijn vaak afhankelijk van wat een dienst weet of mag verwachten van wie er gebruik van maakt, dus een eigen verklaring alleen is zwak.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Britse Online Safety Act en AI-chatbots
Samenleving