O que aconteceu
A Califórnia promulgou uma proibição de quatro anos de brinquedos chatbot de IA para menores depois que testes de segurança revelaram geração de conteúdo perigoso.
O governador Gavin Newsom assinou o projeto de lei 867 do Senado em 10 de setembro, criando uma moratória de quatro anos sobre a fabricação e venda de brinquedos de IA cobertos a partir de 1º de janeiro de 2027. A proibição vai até o final de 2030, a menos que os legisladores estendam ou substituam a restrição.
A lei visa produtos físicos concebidos para crianças com menos de 16 anos que contenham um “chatbot complementar”, definido como um sistema de IA capaz de fornecer respostas adaptativas e semelhantes às humanas e de sustentar uma relação social através de múltiplas interações. Exclui personagens de videogame com diálogo limitado e assistentes de voz independentes que não mantêm relacionamentos contínuos.
A proibição segue uma investigação do Fundo de Educação PIRG dos EUA, que descobriu que um ursinho de pelúcia de IA chamado Kumma forneceu informações sobre como encontrar objetos perigosos, como facas e pílulas, e discutiu assuntos sexualmente explícitos com usuários de testes. Outro brinquedo de IA disse a um usuário com 5 anos de idade onde encontrar fósforos.
As violações da lei podem desencadear soluções civis de acordo com a lei complementar do chatbot da Califórnia. O senador estadual Steve Padilla, autor do projeto de lei, afirmou que a pausa tem como objetivo dar tempo para o desenvolvimento de padrões de segurança à medida que a IA se torna mais sofisticada em produtos infantis.
Detalhes da fonte: lawcommentary.com ↗
Por que isso importa
Esta é a primeira moratória a nível estatal que visa especificamente os brinquedos de companhia com IA, estabelecendo um precedente para regulamentar a IA adaptativa em produtos infantis e forçando o desenvolvimento de padrões de segurança em toda a indústria.
Esta legislação representa uma mudança significativa na regulamentação da IA, passando da moderação geral de conteúdos para proibições específicas de produtos com base em riscos de segurança nas interações adaptativas da IA com menores.
A moratória força uma pausa no mercado de brinquedos de companhia de IA, obrigando os fabricantes a esperar pelos padrões de segurança estabelecidos, em vez de lançar produtos com limites comportamentais não testados.
Ele destaca a volatilidade do comportamento da IA, conforme observado pela fonte, onde as atualizações de software podem alterar rapidamente a forma como um brinquedo responde a avisos sensíveis, dificultando a manutenção de certificações de segurança estática.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
Why can ethical evaluation not be reduced to one model score?
O que assistir a seguir
Monitore o desenvolvimento de padrões de segurança estaduais, possíveis desafios legais da Toy Association e se outros estados adotam restrições semelhantes de chatbots complementares.
A Toy Association opôs-se à moratória, favorecendo o desenvolvimento de padrões de segurança em vez de uma proibição; os seus esforços legais ou de lobby podem moldar o quadro regulamentar final.
Os legisladores precisarão desenvolver os padrões de segurança mencionados pelo senador Padilla antes que a proibição expire em 2031, ou a restrição caducará.
Outros estados podem olhar para o SB 867 da Califórnia como um modelo para regulamentar dispositivos complementares de IA, potencialmente levando a uma colcha de retalhos de regulamentações de brinquedos de IA em nível estadual.