Wat is er gebeurd
Californië heeft een vierjarig verbod op AI-chatbotspeelgoed voor minderjarigen uitgevaardigd nadat uit veiligheidstests bleek dat er gevaarlijke inhoud werd gegenereerd.
Gouverneur Gavin Newsom ondertekende op 10 september Senaatswetsvoorstel 867, waarmee vanaf 1 januari 2027 een vierjarig moratorium werd ingesteld op de productie en verkoop van afgedekt AI-speelgoed. Het verbod loopt tot eind 2030, tenzij wetgevers de beperking verlengen of vervangen.
De wet richt zich op fysieke producten die zijn ontworpen voor kinderen onder de 16 jaar en die een 'metgezelchatbot' bevatten, gedefinieerd als een AI-systeem dat in staat is adaptieve, mensachtige reacties te bieden en een sociale relatie in stand te houden tijdens meerdere interacties. Het sluit videogamekarakters uit met een beperkte dialoog en zelfstandige stemassistenten die geen langdurige relaties onderhouden.
Het verbod volgt op een onderzoek van het Amerikaanse PIRG Education Fund waaruit bleek dat een AI-teddybeer genaamd Kumma informatie verstrekte over het vinden van gevaarlijke voorwerpen zoals messen en pillen, en seksueel expliciete onderwerpen besprak met testgebruikers. Een ander AI-speeltje vertelde een gebruiker van 5 jaar waar hij overeenkomsten kon vinden.
Overtredingen van de wet kunnen aanleiding geven tot civiele rechtsmiddelen onder de Californische chatbotwet. Senator Steve Padilla, de auteur van het wetsvoorstel, verklaarde dat de pauze bedoeld is om tijd te geven voor het ontwikkelen van veiligheidsnormen naarmate AI steeds geavanceerder wordt in kinderproducten.
Brongegevens: lawcommentary.com ↗
Waarom het ertoe doet
Dit is het eerste moratorium op staatsniveau dat specifiek gericht is op AI-begeleidend speelgoed, waardoor een precedent wordt geschapen voor het reguleren van adaptieve AI in kinderproducten en het afdwingen van de ontwikkeling van veiligheidsnormen in de hele sector.
Deze wetgeving vertegenwoordigt een aanzienlijke verschuiving in de AI-regelgeving, van algemene inhoudsmoderatie naar specifieke productverboden op basis van veiligheidsrisico's bij adaptieve AI-interacties met minderjarigen.
Het moratorium dwingt een pauze af op de markt voor AI-begeleidend speelgoed, waardoor fabrikanten worden gedwongen te wachten op gevestigde veiligheidsnormen in plaats van producten uit te brengen met ongeteste gedragsgrenzen.
Het benadrukt de volatiliteit van AI-gedrag, zoals opgemerkt door de bron, waarbij software-updates snel kunnen veranderen hoe speelgoed reageert op gevoelige aanwijzingen, waardoor statische veiligheidscertificeringen moeilijk te handhaven zijn.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
Why can ethical evaluation not be reduced to one model score?
Wat je nu moet bekijken
Houd toezicht op de ontwikkeling van staatsveiligheidsnormen, mogelijke juridische uitdagingen van de Toy Association en of andere staten soortgelijke beperkingen voor chatbots hanteren.
De Toy Association heeft zich tegen het moratorium verzet en de voorkeur gegeven aan de ontwikkeling van veiligheidsnormen boven een verbod; hun juridische of lobbyinspanningen kunnen het uiteindelijke regelgevingskader bepalen.
Wetgevers zullen de door senator Padilla genoemde veiligheidsnormen moeten ontwikkelen voordat het verbod in 2031 afloopt, anders vervalt de beperking.
Andere staten kunnen de SB 867 in Californië beschouwen als een model voor het reguleren van AI-begeleidende apparaten, wat mogelijk kan leiden tot een lappendeken van AI-speelgoedregels op staatsniveau.