Institutos de segurança de IA em todo o mundo

O Reino Unido criou o seu AI Safety Institute em novembro de 2023, em torno do Bletchley Park AI Safety Summit. Ela surgiu da Frontier AI Taskforce e se tornou uma das equipes governamentais de avaliação de IA mais bem financiadas, contratando pesquisadores de laboratórios líderes. Em fevereiro de 2025, foi renomeado como AI Security Institute. O novo nome reflectiu um enfoque mais restrito nos danos à segurança nacional, como a utilização indevida da cibersegurança, os riscos químicos e biológicos e a criminalidade, em vez de questões mais amplas, como o preconceito. O US AI Safety Institute foi criado dentro do NIST no final de 2023, após a ordem executiva do presidente Biden sobre IA. Em junho de 2025, o Departamento de Comércio reorganizou-o como Centro de Padrões e Inovação de IA (CAISI). O mandato mudou para padrões voluntários, avaliações relevantes para a segurança nacional e avaliação de sistemas de IA estrangeiros, ao mesmo tempo que abandonou a marca de “segurança”. Japão, Singapura, Canadá, Coreia do Sul, França e outros criaram organismos semelhantes. O Gabinete de IA da UE tem algumas funções paralelas, mas é um regulador. Em novembro de 2024, a Rede Internacional de Institutos de Segurança de IA realizou a sua primeira reunião em São Francisco. Os seus membros fundadores foram a Austrália, o Canadá, a UE, a França, o Japão, o Quénia, a Coreia do Sul, Singapura, o Reino Unido e os EUA. Um equívoco comum é que esses institutos podem bloquear a liberação de modelos. Os órgãos do Reino Unido e dos EUA não têm poder estatutário geral para obrigar o acesso ou impedir a implantação. O seu acesso provém de acordos voluntários e as suas conclusões moldam as decisões políticas e empresariais sem serem vinculativas. O Gabinete de IA da UE é diferente: ao abrigo da Lei da IA, pode solicitar informações a fornecedores de modelos de IA de uso geral com risco sistémico e impor-lhes obrigações.