Que s'est-il passé
OpenAI a déclaré le 31 août qu'il soutenait le projet de loi 1119 du Sénat de Californie, une législation qu'il décrit comme un cadre pour une utilisation de l'IA adaptée à l'âge par les adolescents. La société a exhorté le gouverneur Gavin Newsom à signer le projet de loi, affirmant qu'il associerait des protections plus renforcées à un accès continu aux outils d'IA pour l'apprentissage, la créativité et l'exploration.
OpenAI a déclaré qu'il soutenait le projet de loi 1119 du Sénat de Californie et a demandé au gouverneur Gavin Newsom de le signer. La société a remercié Newsom, le sénateur de l'État Steve Padilla, les membres de l'Assemblée Buffy Wicks et Rebecca Bauer-Kahan, ainsi que l'Assemblée législative de Californie, d'avoir fait avancer la mesure. La source présente le projet de loi comme étant en attente d'une action du gouverneur ; il ne fournit pas de date de signature, de calendrier de mise en œuvre ou de détails réglementaires finaux.
Selon la description de OpenAI, le SB 1119 exigerait que les fournisseurs d’IA déterminent l’âge d’un utilisateur, identifient et traitent les risques de sécurité avant de mettre un produit à la disposition des jeunes, se soumettent à des audits indépendants et protègent les mineurs contre les contenus préjudiciables et les interactions à haut risque. La société répertorie spécifiquement les contenus d’automutilation et d’exploitation sexuelle parmi les risques couverts. La source ne reproduit pas le langage statutaire du projet de loi, de sorte que les définitions exactes, les mécanismes d’application et les sanctions restent inconnus.
OpenAI affirme que le projet de loi exigerait également des outils permettant aux parents de guider ou de limiter l'utilisation par les enfants, des connexions à des ressources de soutien en cas de crise lorsque de graves risques pour la sécurité surviennent, des limites à la publicité ciblée et des protections pour les informations personnelles des jeunes. L'entreprise qualifie la proposition de distincte de la réglementation des médias sociaux, car elle vise à préserver les fonctionnalités d'IA éducatives et liées à la sécurité, y compris ce qu'elle appelle une utilisation responsable de la mémoire.
L’annonce relie la position politique de OpenAI à son nouveau ChatGPT for Teens. OpenAI indique que les utilisateurs de moins de 18 ans, ou ceux qui déclarent avoir entre 13 et 17 ans, sont automatiquement placés dans cette expérience. Il indique également que son système peut estimer si une personne a moins de 18 ans. La source ne fournit pas l’exactitude du système, les taux d’erreur, la procédure d’appel, les pratiques de conservation des données ou des détails sur la manière dont l’estimation de l’âge est effectuée.
OpenAI affirme que son expérience pour adolescents comprend des quiz, des visualisations d'apprentissage et un mode étude, qui, selon elle, ont été développés avec des éducateurs et des experts en apprentissage. Il indique également que la mémoire et d'autres contextes issus de conversations antérieures peuvent aider à appliquer des mesures de protection de manière cohérente, à reconnaître des modèles préoccupants et à soutenir un apprentissage à plus long terme. La source ne fournit pas de tests indépendants de ces affirmations ni de preuves montrant à quelle fréquence les fonctionnalités réussissent ou échouent.
Détails de la source: openai.com ↗
Pourquoi c'est important
La proposition imposerait des exigences juridiques sur la manière dont les produits d’IA identifient les jeunes utilisateurs, évaluent les risques pour la sécurité, traitent les contenus préjudiciables et impliquent les parents. La position de OpenAI est également remarquable dans la mesure où l’entreprise décrit ses propres protections de produits destinées aux adolescents comme un exemple de l’approche qu’elle souhaite que les décideurs politiques adoptent.
S'il est adopté comme décrit, le SB 1119 déplacerait plusieurs garanties relatives à l'IA pour les jeunes de la conception volontaire de produits vers un cadre juridique. La détermination de l'âge, l'évaluation des risques avant la publication, les audits et les protections automatiques pourraient affecter la façon dont les entreprises conçoivent les systèmes d'intégration, de modération, de publicité et de données pour les adolescents. L’effet pratique dépendrait fortement du texte final du projet de loi et des règles émises lors de sa mise en œuvre.
L’assurance vieillesse est un arbitrage central non résolu. Un système qui classe à tort les adultes comme mineurs pourrait limiter l'accès aux fonctionnalités, tandis qu'un système qui ne reconnaît pas un adolescent pourrait laisser cet utilisateur en dehors des protections prévues. L'annonce de OpenAI prend en charge en principe l'estimation de l'âge, mais ne fournit aucune preuve sur l'exactitude, les performances démographiques, les garanties de confidentialité ou la manière dont les utilisateurs pourraient contester une incorrecte.
L'exigence d'audit proposée pourrait donner aux familles, aux régulateurs et au public plus d'informations sur la question de savoir si les allégations concernant la sécurité des jeunes correspondent au comportement réel du système. Mais la source n’explique pas qui sélectionnerait les auditeurs, quelles preuves ils inspecteraient, si les conclusions seraient publiques ou à quelle fréquence les audits auraient lieu. Ces détails détermineront si les audits fonctionnent comme une responsabilité significative ou comme un contrôle procédural.
La politique soulève également des questions sur la conception de systèmes d’IA qui conservent le contexte. Selon OpenAI, la mémoire peut aider à détecter des schémas préoccupants et à éviter de renforcer ceux qui sont nuisibles, tout en favorisant la continuité du travail éducatif. Cela crée une tension entre les avantages en matière de sécurité et le caractère sensible des informations contenues dans les conversations d’un jeune. L'annonce ne précise pas quelles informations sont conservées, pendant combien de temps, qui peut y accéder ou comment le contrôle parental interagit avec la vie privée des adolescents.
L'annonce est une déclaration de plaidoyer d'une entreprise qui serait affectée par le projet de loi. Le soutien de OpenAI démontre que la mesure est conforme aux préférences politiques déclarées de l’entreprise, mais il ne constitue pas une preuve indépendante que ChatGPT for Teens ou les garanties proposées dans le projet de loi sont efficaces. La source ne contient aucune évaluation externe, données d’utilisateurs, analyse d’application ou témoignage de familles, d’éducateurs, d’experts en sécurité des enfants ou de groupes de défense des libertés civiles.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Que regarder ensuite
La question immédiate est de savoir si Newsom signe le SB 1119 et comment ses exigences seraient mises en œuvre. Parmi les questions importantes non résolues figurent les implications de l’estimation de l’âge sur l’exactitude et la confidentialité, la portée des audits indépendants, la signification des obligations de soutien en cas de crise et la manière dont les régulateurs évalueraient si les protections fonctionnent dans la pratique.
La prochaine étape formelle est la décision du gouverneur. OpenAI exhorte Newsom à signer le SB 1119, mais la source ne précise pas si le gouverneur s'est engagé à le faire. Si le projet de loi devient loi, les directives ultérieures de l'agence et les délais de conformité compteront autant que les principales exigences.
La mise en œuvre devrait clarifier ce qui compte pour déterminer l’âge d’un utilisateur et si les prestataires peuvent s’appuyer sur une estimation de l’âge, l’âge déclaré, des documents d’identité ou d’autres méthodes. Il devrait également montrer comment la Californie entend minimiser la collecte d'informations sensibles et empêcher les contrôles d'âge de devenir une nouvelle source de profilage, d'exclusion ou d'exposition de données.
Les dispositions relatives à l'audit indépendant méritent un examen attentif. Les questions clés portent notamment sur les normes que les auditeurs doivent utiliser, s'ils peuvent tester les systèmes directement, si les entreprises doivent divulguer les défaillances et que se passe-t-il lorsqu'un audit identifie des risques non résolus. La source ne répond à aucune de ces questions.
L’exigence d’un soutien en cas de crise nécessite également des limites précises. OpenAI affirme que le projet de loi mettrait les jeunes en contact avec des ressources de soutien en cas de crise lorsque de graves risques pour la sécurité surviennent, mais il ne définit pas le seuil d'intervention ni n'explique comment les systèmes géreraient l'incertitude, les faux positifs et les urgences dans différentes juridictions. Ces détails affecteront à la fois la sécurité et la confidentialité des utilisateurs.
OpenAI déclare s'attendre à une étude et une collaboration continues pendant la mise en œuvre et que son propre travail en matière de sécurité des jeunes comprend le contrôle parental, la prédiction de l'âge, un plan de sécurité pour les adolescents et des principes comportementaux pour les moins de 18 ans. Recherchez des preuves au-delà des descriptions d'entreprise : évaluations indépendantes, résultats d'audit publiés, informations sur des classifications d'âge erronées et résultats mesurables en matière de prévention des contenus préjudiciables et d'accès à l'assistance.