世界中の AI 安全性研究所

英国は、ブレッチリー パーク AI 安全サミットに合わせて、2023 年 11 月に AI 安全研究所を設立しました。これはフロンティア AI タスクフォースから発展し、主要な研究所から研究者を雇用し、最も資金が豊富な政府の AI 評価チームの 1 つになりました。 2025 年 2 月に AI Security Institute に改名されました。新しい名前は、偏見などの広範な問題ではなく、サイバー悪用、化学的および生物学的リスク、犯罪などの国家安全保障上の危害に焦点を絞ったことを反映しています。米国AI安全研究所は、バイデン大統領のAIに関する大統領令を受けて、2023年末にNIST内に設立された。 2025 年 6 月、商務省は AI 標準とイノベーション センター (CAISI) として再組織しました。この義務は、「安全」というブランドを削除しながら、自主基準、国家安全保障関連の評価、外国の AI システムの評価へと移行しました。日本、シンガポール、カナダ、韓国、フランスなどが同様の団体を設立している。 EU の AI 事務局にはいくつかの並行機能がありますが、それは規制当局です。 2024 年 11 月、AI 安全性協会の国際ネットワークはサンフランシスコで初会合を開催しました。設立メンバーはオーストラリア、カナダ、EU、フランス、日本、ケニア、韓国、シンガポール、英国、米国でした。よくある誤解は、これらの機関がモデルのリリースを阻止できるということです。英国と米国の機関には、アクセスを強制したり展開を停止したりする一般的な法的権限はありません。彼らのアクセスは自主的な合意に基づいており、その調査結果は拘束力を持たずにポリシーや会社の決定を形成します。 EU AI 事務局は異なります。AI 法に基づいて、システミック リスクを伴う汎用 AI モデルのプロバイダーに情報を要求し、義務を課すことができます。