Que s'est-il passé
Le gouverneur Gavin Newsom a annoncé la nomination d'un groupe d'experts chargés de donner des conseils sur le décret californien sur l'IA, qui vise à accélérer la surveillance indépendante et à développer un « kill switch » pour les modèles d'IA frontières.
Le gouverneur Gavin Newsom a annoncé la création d'un groupe d'experts de premier plan pour donner des conseils sur les recommandations requises par son récent décret sur l'IA. L'ordonnance vise à accélérer la surveillance indépendante des sociétés d'IA et à faire progresser la création d'un potentiel « kill switch » pour les modèles frontières voyous. Le groupe d'experts, composé de personnes issues des domaines de la technologie, des politiques et de la gouvernance, collaborera avec des chercheurs techniques pour guider la gouvernance de la sûreté et de la sécurité de l'IA en Californie.
Les propositions à l’étude incluent l’exigence que des tiers indépendants soient intégrés dans les entreprises pionnières de l’IA pour vérifier les cadres de sécurité et évaluer de manière indépendante les évaluations de sécurité. En outre, l'ordonnance ordonne à l'Agence des opérations gouvernementales d'accélérer les délais de mise en œuvre du projet de loi 813 du Sénat et du projet de loi 1405 de l'Assemblée, qui établissent respectivement des cadres pour les organismes de vérification indépendants et un registre d'État pour les auditeurs d'IA.
Les experts annoncés comprennent Jason Goldman, ancien directeur du numérique à la Maison Blanche ; Gillian Hadfield, professeur à l'Université Johns Hopkins qui se concentre sur l'alignement de l'IA ; Alondra Nelson, professeur à l'Institute for Advanced Study ; et Rob Reich, professeur à l'Université de Stanford. Ces personnes aideront à appliquer leur expertise aux capacités en évolution rapide de l’IA et à répondre aux préoccupations concernant la sûreté et la sécurité.
Détails de la source: gov.ca.gov ↗
Pourquoi c'est important
Cette décision établit un mécanisme concret au niveau de l'État pour la vérification indépendante des allégations de sécurité de l'IA et des capacités d'arrêt d'urgence, comblant ainsi une lacune importante dans les cadres réglementaires actuels où la surveillance fédérale est absente ou limitée. Cela signale une évolution vers des audits tiers obligatoires et des contrôles de sécurité techniques pour les systèmes d’IA à haut risque.
La Californie se positionne comme un leader en matière de réglementation de l’IA en créant une approche structurée des capacités indépendantes de vérification et d’arrêt d’urgence. Ceci est important car aucune loi fédérale n’oblige actuellement les sociétés d’IA à signaler les incidents dangereux ni n’impose des contrôles de sécurité spécifiques pour les modèles frontières.
L'introduction d'un concept de « kill switch » pour les modèles frontières représente un contrôle technique pratique qui pourrait atténuer les risques associés au comportement d'une IA autonome ou malveillante. En intégrant des tiers indépendants dans les entreprises d'IA, l'État vise à garantir que les allégations de sécurité soient vérifiées par des entités qui n'ont aucun intérêt financier dans le succès de l'entreprise.
Ce décret s'appuie sur la législation californienne existante, notamment le SB 53 (Transparency in Frontier Artificial Intelligence Act) et le SB 813, créant un cadre réglementaire complet qui couvre la sécurité des modèles frontières, la surveillance indépendante et les normes de sécurité des enfants. Il constitue un modèle à suivre pour d’autres États et potentiellement pour le gouvernement fédéral.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Que regarder ensuite
Surveillez les recommandations techniques spécifiques concernant la mise en œuvre du « kill switch », le calendrier de mise en œuvre des SB 813 et AB 1405, ainsi que toute réponse fédérale au cadre réglementaire en expansion de l'IA en Californie.
Les spécifications techniques spécifiques et la faisabilité du « coupe-circuit » proposé pour les modèles Frontier constitueront un domaine d'intérêt clé. La manière dont ce mécanisme serait mis en œuvre dans différentes architectures d’IA et entreprises reste à déterminer.
Le calendrier de mise en œuvre du SB 813 et de l’AB 1405 est critique. L’accélération de ces délais pourrait conduire au déploiement plus rapide d’organismes de vérification indépendants et de registres d’auditeurs en IA, ce qui aurait des impacts pratiques immédiats sur la manière dont les entreprises d’IA opèrent en Californie.
La réaction de l’industrie de l’IA et du gouvernement fédéral face au cadre réglementaire en expansion de la Californie sera importante. Le gouverneur a appelé le Congrès et le président à adopter ou à utiliser le cadre californien comme base pour les normes nationales, ce qui pourrait conduire à de nouveaux développements politiques ou à des conflits.