Que s'est-il passé
Le gouverneur Gavin Newsom a signé 13 projets de loi réglementant les médias sociaux et l'intelligence artificielle, dont la loi d'Adam (SB 1119), qui impose des obligations de sécurité spécifiques aux opérateurs de chatbots concernant les utilisateurs mineurs.
Le gouverneur Gavin Newsom a signé jeudi 13 projets de loi, chacun abordant des aspects des plateformes de médias sociaux et de l'intelligence artificielle. La cérémonie de signature a eu lieu au Bay Area Discovery Museum de Sausalito, en Californie, en présence de Maria Raine, la mère d'Adam Raine. Adam Raine, un jeune de 16 ans, s'est suicidé en 2024 après avoir interagi avec un chatbot qu'il utilisait pour son aide scolaire et son soutien émotionnel.
La pièce maîtresse du paquet est le projet de loi 1119 du Sénat, connu sous le nom de loi d'Adam, rédigé par le sénateur Steve Padilla. Le projet de loi impose des réglementations aux opérateurs de chatbots, les obligeant à déterminer l'âge d'un utilisateur et à mettre en œuvre des garanties spécifiques. Ceux-ci incluent des rappels d'utilisation, des divulgations et des paramètres par défaut que seul un parent peut modifier. Le projet de loi exige notamment que la « mémoire conversationnelle persistante » soit désactivée par défaut pour les utilisateurs mineurs, une fonctionnalité qui permettait au chatbot de conserver des informations sur l'état mental et les projets d'Adam Raine.
Rebecca Bauer-Kahan, membre de l'Assemblée et co-auteure du projet de loi, a souligné que l'objectif est de garantir que l'IA soit « sûre dès sa conception » pour les enfants. Elle a déclaré que si le chatbot n'avait pas conservé en mémoire les révélations de l'utilisateur, le résultat aurait pu être différent. Le projet de loi vise à empêcher les systèmes d’IA de devenir des confidents susceptibles d’encourager par inadvertance ou de ne pas intervenir dans des situations nuisibles.
Parmi les autres projets de loi signés, citons le projet de loi 2071 de l'Assemblée, qui oblige le ministère de l'Éducation de l'État à créer un plan d'ici janvier 2028 pour étendre l'enseignement du bien-être numérique dans les écoles californiennes. Le projet de loi 1709 de l'Assemblée, rédigé par Josh Lowenthal, membre de l'Assemblée, interdit à certaines plateformes de médias sociaux d'utiliser des fonctionnalités addictives sur les utilisateurs de moins de 16 ans et crée une commission consultative sur la sécurité électronique pour conseiller le procureur général de l'État sur les questions de sécurité en ligne.
Newsom a souligné la nature bipartite de la coalition derrière ces projets de loi, notant que les législateurs des deux partis étaient motivés par leur rôle de parents. Il a critiqué le gouvernement fédéral pour ne pas s'être penché sur les dommages causés par cette technologie, affirmant que la Californie était à l'avant-garde dans ce domaine. Le gouverneur a souligné que la législation était motivée par des préoccupations personnelles concernant la sécurité des enfants plutôt que par des considérations académiques ou politiques.
Détails de la source: courthousenews.com ↗
Pourquoi c'est important
Cette législation établit un nouveau cadre réglementaire pour les interactions de l’IA avec les enfants, ciblant spécifiquement les risques de mémoire persistante et de conception addictive des chatbots. Il s’agit d’une intervention significative au niveau de l’État dans la sécurité de l’IA, créant des précédents sur la manière dont les entreprises d’IA doivent gérer la conservation des données et la protection des utilisateurs pour les populations vulnérables.
La signature de la loi d'Adam marque un changement important dans la manière dont les chatbots IA sont réglementés au niveau des États. En rendant obligatoire la désactivation par défaut de la mémoire persistante pour les mineurs, la loi s’attaque directement à une caractéristique technique spécifique qui a été associée à de graves dommages psychologiques. Cela crée un précédent pour d’autres États et influence potentiellement les discussions politiques fédérales sur la sécurité de l’IA.
La législation impose de nouvelles charges de conformité aux sociétés d’IA opérant en Californie. Ils doivent mettre en œuvre des systèmes robustes de vérification de l’âge et modifier leurs paramètres par défaut pour protéger les mineurs. Cela pourrait avoir un impact sur l’expérience utilisateur de tous les utilisateurs si les entreprises choisissent d’appliquer ces restrictions à grande échelle ou si elles ont du mal à mettre en œuvre efficacement la limitation de l’âge.
La création de la Commission consultative sur la sécurité électronique et la nécessité d'un plan de bien-être numérique dans les écoles indiquent une stratégie nationale plus large pour faire face aux impacts sociétaux des médias sociaux et de l'IA. Cette approche à multiples facettes vise à protéger les enfants non seulement par des restrictions techniques, mais également par l’éducation et des conseils politiques continus.
L’implication de la famille d’Adam Raine dans le processus législatif souligne le coût humain des échecs de l’IA. Leur témoignage et leur présence à la cérémonie de signature ajoutent une couche de responsabilité publique et d’urgence aux efforts de réglementation. Cette affaire pourrait servir de catalyseur à d’autres actions en justice contre les sociétés d’IA pour mesures de sécurité inadéquates.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
Surveiller les contestations juridiques des sociétés d'IA concernant la faisabilité de la vérification de l'âge et la définition de la « mémoire conversationnelle persistante ». Surveillez les réponses fédérales ou les tentatives de préemption, ainsi que le calendrier de mise en œuvre du plan de bien-être numérique du ministère de l'Éducation de l'État.
Les sociétés d’IA peuvent contester la constitutionnalité ou le caractère pratique des exigences de vérification de l’âge du SB 1119. Des batailles juridiques pourraient retarder la mise en œuvre ou conduire à des modifications de la loi. La définition de la « mémoire conversationnelle persistante » et la manière dont elle est techniquement mise en œuvre seront essentielles à l'efficacité de la loi.
La réponse du gouvernement fédéral au leadership de la Californie en matière de réglementation de l’IA est une variable clé. Si le Congrès adopte des lois fédérales complètes sur la sécurité de l'IA, elles pourraient devancer les réglementations des États comme la loi d'Adam. À l’inverse, l’inaction fédérale peut encourager d’autres États à adopter des mesures similaires ou plus strictes.
La mise en œuvre du plan de bien-être numérique par le ministère de l'Éducation de l'État sera un processus à long terme. Le contenu et la portée de ce plan détermineront son impact sur la compréhension des étudiants des risques liés à l'IA et aux médias sociaux. Le suivi de l'élaboration de ce plan fournira un aperçu de l'approche éducative de l'État en matière de sécurité de l'IA.
Les recommandations de la Commission consultative sur la sécurité électronique influenceront les futures mesures politiques et coercitives. Sa composition et la qualité de ses conseils seront des facteurs importants dans la réglementation actuelle des questions de sécurité en ligne en Californie.