O que aconteceu
Especialistas em segurança dos EUA e da China propuseram salvaguardas de IA para prevenir acidentes nucleares e garantir o controlo humano sobre os consequentes ataques cibernéticos. As propostas incluem linhas vermelhas em torno dos sistemas nucleares, controlo humano contínuo sobre ataques cibernéticos e uma linha direta para incidentes que envolvam IA autónoma.
As propostas foram publicadas na semana passada, antes das negociações planejadas sobre IA em nível governamental e de uma reunião prevista para 24 de setembro em Washington entre o presidente dos EUA, Donald Trump, e o presidente chinês, Xi Jinping.
Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade Fudan, foram os autores das recomendações.
As suas propostas refletem como a rivalidade entre a IA e a China está a expandir-se para além da concorrência por chips e modelos avançados. Cada vez mais, a discussão envolve também questões tradicionalmente ligadas ao controlo de armas.
O Ministro da Segurança do Estado da China, Chen Yixin, escreveu esta semana num meio de comunicação governamental que a IA “transforma fundamentalmente a forma da luta militar”. Ele disse que a IA passou de um papel de apoio no campo de batalha para um papel fundamental, citando os ataques dirigidos pela IA na guerra EUA-Israel com o Irã.
Detalhes da fonte: stratnewsglobal.com ↗
Por que isso importa
As propostas refletem preocupações crescentes com sistemas de IA cada vez mais poderosos e autónomos. Se implementadas, poderão ajudar a evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação quando a tecnologia se comportar de forma inesperada entre rivais com armas nucleares.
As propostas baseiam-se num princípio endossado pelos então EUA. O presidente Joe Biden e Xi em novembro de 2024 que os humanos deveriam manter o controle sobre as decisões de uso de armas nucleares.
Lora Saalman, investigadora associada sénior do Instituto Internacional de Investigação para a Paz de Estocolmo, escreveu em Fevereiro que isto representava uma área importante da convergência EUA-China.
Ao mesmo tempo, ela notou sinais de que ambos os países estavam a integrar mais profundamente a IA nos sistemas nucleares e relacionados com o nuclear.
Jiang também propôs uma linha direta militar dedicada entre os EUA e a China para incidentes de IA. Ele alertou que as trocas cibernéticas automatizadas poderiam aumentar muito rapidamente para que os seres humanos interviessem.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
crm_get_transaction(id='4092').How does the guide frame AI safety risk across current and advanced systems?
O que assistir a seguir
Os EUA e a China realizarão conversações sobre IA a nível governamental e uma reunião entre o Presidente Trump e o Presidente Xi Jinping em 24 de setembro. As propostas serão discutidas no contexto da IA EUA-China e do diálogo de segurança nacional.
Os EUA e a China realizarão conversações sobre IA a nível governamental e uma reunião entre o Presidente Trump e o Presidente Xi Jinping em 24 de setembro.
As propostas serão discutidas no contexto da IA EUA-China e do diálogo de segurança nacional.
A China tem incorporado cada vez mais a IA na sua burocracia existente de controlo de armas.
Washington não tem um órgão único equivalente de controlo de armas responsável pela IA.