O que aconteceu
O governador da Califórnia, Gavin Newsom, sancionou dois projetos de lei sobre regulamentação de inteligência artificial na quarta-feira. O SB 813 cria a Comissão de Padrões e Segurança de Inteligência Artificial da Califórnia para desenvolver padrões de segurança voluntários, enquanto o AB 1405 estabelece um registro para auditores de risco de IA verificarem credenciais. Ambos os projetos de lei receberam apoio explícito das principais empresas de IA, incluindo OpenAI e Anthropic, antes da assinatura.
O governador Gavin Newsom sancionou o SB 813 e o AB 1405 na quarta-feira, estabelecendo novas estruturas para segurança e supervisão de IA na Califórnia. SB 813, de autoria do senador estadual Jerry McNerney, cria a Comissão de Padrões e Segurança de Inteligência Artificial da Califórnia, que tem a tarefa de desenvolver um conjunto de padrões voluntários de segurança de IA. AB 1405, de autoria da deputada Rebecca Bauer-Kahan, cria um registro de auditores de risco de IA projetado para verificar as credenciais de indivíduos ou entidades que conduzem auditorias de risco de IA.
A legislação recebeu apoio notável dos principais intervenientes da indústria da IA. De acordo com o Gizmodo, citando o Politico, Anthropic endossou os projetos de lei no mês passado. OpenAI também anunciou seu apoio horas antes da assinatura. Chris Lehane, Chefe de Relações Públicas da OpenAI, afirmou que a empresa atingiu um novo capítulo nas capacidades de IA que exige um novo capítulo para a política de IA. A declaração de Anthropic enfatizou a sua história de criação de salvaguardas e a sua crença de que o mundo beneficiaria de uma forma legal e verificável para a indústria trabalhar em conjunto para acelerar o lançamento de modelos poderosos.
Newsom abordou as preocupações levantadas pelo pesquisador de IA Jacob Coxon em relação à IA fora de controle, afirmando que essas preocupações reforçam o reconhecimento da Califórnia de que a IA deve ser desenvolvida com salvaguardas significativas. Ele também apelou ao governo federal para que avance com regulamentações nacionais robustas que correspondam à urgência do momento. A assinatura segue-se a um período de maior escrutínio sobre a segurança da IA e as práticas da indústria, com as novas leis a fornecer mecanismos concretos a nível estatal para normas e auditoria.
Detalhes da fonte: gizmodo.com ↗
Por que isso importa
Esta legislação marca uma mudança significativa na abordagem da Califórnia à governação da IA, ao formalizar mecanismos de supervisão a nível estatal que são endossados pela própria indústria. Ao criar uma comissão dedicada às normas voluntárias e um registo para auditores, o estado está a construir infra-estruturas para a responsabilização e verificação de segurança. O apoio explícito dos principais criadores de IA sugere um alinhamento potencial entre os objectivos regulamentares e as práticas da indústria, o que poderia influenciar a forma como outras jurisdições abordam a regulamentação da IA e estabelecer um precedente para modelos de governação colaborativa no sector.
A promulgação destes projetos de lei representa um passo concreto em direção à governança estruturada da IA na Califórnia, um importante centro para o desenvolvimento da IA. Ao estabelecer uma comissão para normas voluntárias, o estado cria um órgão que pode definir parâmetros de segurança sem impor mandatos rígidos, permitindo potencialmente flexibilidade e ao mesmo tempo promovendo as melhores práticas. O registo de auditores acrescenta uma camada de responsabilidade, garantindo que aqueles que avaliam os riscos de IA tenham credenciais verificadas, o que poderia aumentar a credibilidade das avaliações de segurança.
O apoio explícito de OpenAI e Anthropic é significativo porque indica que os principais desenvolvedores de IA veem valor nessas estruturas regulatórias. Este endosso da indústria pode facilitar uma implementação e adoção mais suaves das normas e dos processos de auditoria. Também sugere uma potencial mudança na relação entre as empresas de IA e os reguladores, passando de abordagens antagónicas para abordagens colaborativas. Esta dinâmica poderá influenciar a forma como outros estados e países abordam a regulamentação da IA, conduzindo potencialmente a um cenário regulamentar mais unificado ou harmonizado.
As leis também abordam a necessidade de transparência e responsabilização no desenvolvimento e implantação de IA. Ao criar mecanismos de normalização e auditoria, a Califórnia está a posicionar-se como líder na governação da IA. Isto poderá ter implicações mais amplas para a indústria da IA, uma vez que as empresas poderão ter de alinhar as suas práticas com estas normas a nível estatal para operarem eficazmente na Califórnia e potencialmente noutras jurisdições que possam adotar estruturas semelhantes.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
Why can ethical evaluation not be reduced to one model score?
O que assistir a seguir
Monitore a formação e as ações iniciais da Comissão de Padrões e Segurança de Inteligência Artificial da Califórnia, bem como os critérios e taxas de adoção do registro de auditores de risco de IA. Observe como outros estados ou agências federais respondem a esta estrutura estadual apoiada pela indústria e se os padrões voluntários desenvolvidos pela comissão ganham força como normas industriais de facto.
Será fundamental observar a formação e as atividades iniciais da Comissão de Padrões e Segurança de Inteligência Artificial da Califórnia. A capacidade da comissão de desenvolver normas voluntárias significativas e amplamente aceites determinará a eficácia do SB 813. As partes interessadas devem observar a composição da comissão, a sua metodologia para o desenvolvimento de normas e o nível de participação da indústria no processo.
A implementação e adoção do registo de auditores de risco de IA ao abrigo do AB 1405 também serão importantes. Os critérios para credenciais de auditor, o número de auditores registados e a frequência das auditorias realizadas indicarão o impacto do registo nas práticas de segurança da IA. A vontade das empresas de utilizar auditores registados para os seus sistemas de IA será um indicador chave da eficácia do registo.
A resposta de outros estados e do governo federal às novas leis de IA da Califórnia será significativa. Se outras jurisdições adoptarem quadros semelhantes, isso poderá levar a um ambiente regulamentar mais consistente para as empresas de IA. Por outro lado, se houver resistência ou divergência, poderá criar desafios de conformidade para empresas que operam em múltiplas jurisdições. A posição do governo federal sobre a regulamentação nacional da IA, conforme solicitado por Newsom, também será um factor-chave no panorama regulatório mais amplo.