Que s'est-il passé
La Californie a interdit pendant quatre ans les jouets chatbots IA destinés aux mineurs après que des tests de sécurité ont révélé une génération de contenu dangereux.
Le gouverneur Gavin Newsom a signé le projet de loi 867 du Sénat le 10 septembre, créant un moratoire de quatre ans sur la fabrication et la vente de jouets IA couverts à compter du 1er janvier 2027. L'interdiction s'applique jusqu'à la fin de 2030, à moins que les législateurs ne prolongent ou ne remplacent la restriction.
La loi cible les produits physiques conçus pour les enfants de moins de 16 ans et contenant un « chatbot compagnon », défini comme un système d'IA capable de fournir des réponses adaptatives de type humain et d'entretenir une relation sociale à travers de multiples interactions. Cela exclut les personnages de jeux vidéo avec des dialogues limités et les assistants vocaux autonomes qui n'entretiennent pas de relations continues.
L'interdiction fait suite à une enquête du PIRG Education Fund des États-Unis qui a révélé qu'un ours en peluche IA nommé Kumma avait fourni des informations sur la recherche d'objets dangereux comme des couteaux et des pilules, et avait discuté de sujets sexuellement explicites avec des utilisateurs testés. Un autre jouet IA a indiqué à un utilisateur âgé de 5 ans où trouver des correspondances.
Les violations de la loi peuvent déclencher des recours civils en vertu de la loi californienne sur les chatbots. Le sénateur d'État Steve Padilla, l'auteur du projet de loi, a déclaré que la pause visait à laisser le temps d'élaborer des normes de sécurité à mesure que l'IA devenait plus sophistiquée dans les produits pour enfants.
Détails de la source: lawcommentary.com ↗
Pourquoi c'est important
Il s'agit du premier moratoire au niveau d'un État ciblant spécifiquement les jouets compagnons dotés d'IA, créant un précédent en matière de réglementation de l'IA adaptative dans les produits pour enfants et imposant l'élaboration de normes de sécurité à l'échelle de l'industrie.
Cette législation représente un changement important dans la réglementation de l'IA, passant d'une modération générale du contenu à des interdictions de produits spécifiques basées sur les risques de sécurité dans les interactions de l'IA adaptative avec des mineurs.
Le moratoire impose une pause sur le marché des jouets compagnons IA, obligeant les fabricants à attendre les normes de sécurité établies plutôt que de commercialiser des produits dont les limites comportementales n'ont pas été testées.
Cela met en évidence la volatilité du comportement de l'IA, comme l'a noté la source, où les mises à jour logicielles peuvent rapidement modifier la façon dont un jouet répond aux invites sensibles, ce qui rend les certifications de sécurité statiques difficiles à maintenir.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
Surveillez l’évolution des normes de sécurité des États, les éventuelles contestations judiciaires de la part de la Toy Association et vérifiez si d’autres États adoptent des restrictions similaires concernant les chatbots compagnons.
La Toy Association s'est opposée au moratoire, privilégiant l'élaboration de normes de sécurité plutôt qu'une interdiction ; leurs efforts juridiques ou de lobbying peuvent façonner le cadre réglementaire final.
Les législateurs devront développer les normes de sécurité mentionnées par le sénateur Padilla avant l’expiration de l’interdiction en 2031, sinon la restriction deviendra caduque.
D'autres États pourraient se tourner vers le SB 867 de Californie comme modèle pour réglementer les appareils compagnons d'IA, ce qui pourrait conduire à une mosaïque de réglementations sur les jouets IA au niveau des États.