O que aconteceu
Um grupo de senadores democratas seniores, incluindo Mark Warner, Jack Reed e Chris Coons, enviou uma carta formal na sexta-feira instando os vigilantes do governo a investigarem erros significativos nos planos de alvos militares dos EUA causados pela inteligência artificial. A carta cita um relatório da CNN detalhando um incidente em que um analista confiou na IA para gerar um relatório de inteligência que identificou falsamente um navio de carga chinês como transportando componentes de armas nucleares. Este erro levou os militares dos EUA a prepararem-se para uma operação de interceção que só foi cancelada depois de as autoridades perceberem que o relatório gerado pela IA era totalmente falso. Os senadores também fizeram referência a um ataque mortal no Irã em fevereiro, que matou quase 200 pessoas, que fontes disseram à CNN ocorreu depois que os comandantes ignoraram os avisos do banco de dados alimentado por IA sobre informações desatualizadas. A carta exige uma investigação imediata por parte dos Inspetores-Gerais com transparência pública, argumentando que a priorização da adoção da IA em detrimento da governação criou sérios riscos operacionais.
Um grupo de importantes senadores democratas, incluindo Mark Warner, Jack Reed e Chris Coons, enviou uma carta na sexta-feira ao secretário de Defesa Pete Hegseth e ao diretor de Inteligência Nacional Jay Clayton. A carta apela a uma investigação imediata por parte dos Inspetores-Gerais relevantes sobre uma série de erros nos planos de alvos militares dos EUA causados pela inteligência artificial. Os senadores expressaram preocupação crescente com o facto de as agências sob a sua supervisão terem priorizado a aceleração da adoção e experimentação de capacidades de IA em vez de uma governação eficaz.
A carta cita especificamente a reportagem da CNN sobre um acidente envolvendo um navio chinês no Médio Oriente. De acordo com fontes familiarizadas com o incidente, um analista do comando de operações especiais confiou na IA para gerar um relatório de inteligência que identificou incorretamente o material num navio de carga chinês. O relatório levou os militares dos EUA a acreditar que o navio transportava componentes de um programa de armas nucleares. Os militares começaram a facilitar os planos para interceptar o navio antes que as autoridades percebessem, pouco antes da operação planeada, que o relatório tinha sido gerado com a ajuda da IA e era totalmente falso. Uma fonte descreveu isto como uma “alucinação” que não tem sido um incidente isolado em toda a comunidade de inteligência desde que o uso da IA começou a proliferar no governo.
Os senadores também fizeram referência a um ataque mortal dos EUA em Fevereiro a uma escola em Minab, no Irão, que matou quase 200 crianças e adultos. Três fontes disseram à CNN no início deste ano que o ataque ocorreu depois de comandantes militares dos EUA ignorarem avisos em bases de dados críticas, incluindo uma alimentada por IA, de que a inteligência sobre potenciais alvos no Irão estava gravemente desatualizada. A carta argumenta que os relatórios públicos sobre plataformas de IA que geram resultados espúrios correm o risco de erros operacionais graves e minam a confiança na inteligência e na ação cinética dos EUA.
A carta exige que Hegseth e Clayton investiguem prontamente o assunto e forneçam aos inspetores gerais acesso irrestrito a ambos os casos deste ano em que relatos da mídia sugeriram erros significativos em fluxos de trabalho de segmentação habilitados por IA, bem como quaisquer casos adicionais ainda não relatados publicamente. Os senadores enfatizam a necessidade de um maior grau de transparência pública nas conclusões finais, dados os impactos que estas falhas percebidas têm na confiança do público nas missões de inteligência e de combate.
Detalhes da fonte: edition.cnn.com ↗
Por que isso importa
Este desenvolvimento destaca os perigos tangíveis da integração da IA em fluxos de trabalho militares e de inteligência de alto risco sem uma governação robusta. O incidente descrito pela CNN, onde uma alucinação de IA quase iniciou uma guerra, sublinha a necessidade crítica de supervisão e verificação humana em sistemas automatizados. O apelo dos senadores para uma investigação do Inspector-Geral sinaliza um consenso político crescente de que o ritmo actual de adopção da IA no sector da defesa pode estar a ultrapassar o desenvolvimento dos controlos de segurança necessários. Isto poderia levar a novos quadros regulamentares ou mudanças nas políticas internas do Departamento de Defesa para garantir a fiabilidade da IA nas operações cinéticas.
O incidente envolvendo o navio de carga chinês ilustra os graves riscos de confiar na IA para avaliações críticas de inteligência sem verificação humana adequada. O facto de o erro só ter sido detectado pouco antes de uma operação militar planeada destaca o potencial para consequências diplomáticas e militares catastróficas se as alucinações da IA não forem devidamente geridas. Este evento serve como um exemplo concreto de por que a governação e os controlos de segurança são essenciais em aplicações de IA de alto risco.
A referência ao ataque mortal no Irão sublinha ainda mais o custo humano das falhas de inteligência relacionadas com a IA. O facto de ignorar os avisos alimentados pela IA sobre dados desatualizados sugere que os sistemas atuais podem não estar efetivamente integrados nos processos de tomada de decisão ou que os operadores humanos podem estar a ignorar verificações de segurança críticas. Isto levanta sérias questões sobre a fiabilidade dos fluxos de trabalho de segmentação baseados em IA e a necessidade de mecanismos de supervisão mais robustos.
O apelo dos senadores para uma investigação do Inspetor-Geral sinaliza uma mudança na dinâmica política em relação à IA nas forças armadas. Embora o debate sobre a regulamentação da IA tenha dominado o Congresso, com os Democratas a apelarem a controlos mais rigorosos e os Republicanos a alertarem contra o abrandamento do desenvolvimento, este incidente fornece um argumento convincente para a necessidade de uma governação eficaz. O resultado da investigação poderá influenciar futuras decisões políticas e potencialmente levar a novos regulamentos ou protocolos internos para garantir a fiabilidade da IA em operações militares.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
O que assistir a seguir
Fique atento à resposta do secretário de Defesa Pete Hegseth e do diretor de Inteligência Nacional Jay Clayton à carta dos senadores. Além disso, monitorizar se os Inspetores-Gerais iniciam um inquérito formal sobre os incidentes específicos citados, incluindo a interceção de navios chineses e o ataque ao Irão. O resultado desta investigação pode influenciar debates mais amplos no Congresso sobre a regulamentação da IA nas forças armadas e pode ter impacto nas negociações em curso entre o Pentágono e empresas de IA como a Anthropic relativamente à utilização dos seus modelos em armas autónomas.
A resposta do Secretário de Defesa Pete Hegseth e do Diretor de Inteligência Nacional Jay Clayton à carta dos senadores será um indicador chave da posição da administração sobre a governação da IA nas forças armadas. A sua reacção pode revelar se estão dispostos a cooperar com uma investigação do Inspector-Geral ou se defenderão a actual abordagem à adopção da IA.
O início de um inquérito formal pelos Inspectores-Gerais sobre os incidentes específicos citados na carta será um desenvolvimento significativo. O âmbito e as conclusões desta investigação poderão fornecer informações valiosas sobre a extensão dos erros relacionados com a IA nos fluxos de trabalho de seleção de alvos militares e sobre a eficácia das atuais medidas de governação.
O debate em curso no Congresso sobre a regulamentação da IA pode ser influenciado pelo resultado desta investigação. Se a investigação revelar falhas significativas na governação da IA, poderá reforçar a defesa de regulamentações mais rigorosas e de mecanismos de supervisão mais robustos. Por outro lado, se a investigação concluir que os incidentes foram isolados e que os actuais controlos são eficazes, poderá reforçar o argumento a favor da rápida e contínua adopção da IA.
A relação entre o Pentágono e empresas de IA como Anthropic também pode ser afetada por este incidente. O Departamento de Defesa já discutiu com Anthropic sobre a recusa da empresa em remover as grades de segurança internas que impediriam os militares de usar seu modelo de IA Claude em armas autônomas e vigilância em massa. O resultado da investigação poderá influenciar futuras negociações e parcerias entre os militares e os criadores de IA.