何が起こったのか
カリフォルニア州は、安全性検査で危険なコンテンツの生成が判明したことを受け、未成年者向けのAIチャットボット玩具の4年間の禁止を制定した。
ギャビン・ニューサム知事は9月10日、上院法案867号に署名し、2027年1月1日から対象となるAI玩具の製造・販売を4年間停止することになった。議員が制限を延長または置き換えない限り、禁止措置は2030年末まで続く。
この法律は、適応的で人間のような応答を提供し、複数の相互作用にわたって社会的関係を維持できる AI システムとして定義される「コンパニオン チャットボット」を含む、16 歳未満の子供向けに設計された物理的製品を対象としています。会話が制限されているビデオゲームのキャラクターや、継続的な関係を維持できないスタンドアロンの音声アシスタントは除外されます。
この禁止措置は、米国PIRG教育基金の調査で、Kummaという名前のAIテディベアがナイフや錠剤などの危険物を見つけるための情報を提供し、テストユーザーと性的に露骨な主題について話し合っていたことが判明したことを受けたものである。別の AI おもちゃは、5 歳に設定されたユーザーに、一致する場所を見つける場所を教えました。
法律違反は、カリフォルニア州のコンパニオンチャットボット法に基づいて民事救済を発動する可能性がある。この法案の起草者であるスティーブ・パディラ州上院議員は、この一時停止は、子供向け製品におけるAIの高度化に伴い、安全基準を開発する時間を確保することを目的としていると述べた。
なぜそれが重要なのか
これは、特に AI コンパニオン玩具を対象とした初の州レベルの一時停止措置であり、子供向け製品におけるアダプティブ AI を規制し、業界全体の安全基準の開発を強制する前例となった。
この法律は、一般的なコンテンツの規制から、未成年者との適応型 AI のインタラクションにおける安全リスクに基づく特定の製品の禁止へと移行する、AI 規制の大きな変化を表しています。
この一時停止により、AI コンパニオン玩具の市場は一時停止され、メーカーは動作限界がテストされていない製品をリリースするのではなく、確立された安全基準を待つことを余儀なくされています。
関係者が指摘したように、これは AI の動作の不安定さを浮き彫りにしており、ソフトウェアのアップデートにより機密性の高いプロンプトに対するおもちゃの反応がすぐに変わる可能性があり、静的安全性認証の維持が困難になります。
インタラクティブなメカニズム: 実際にどのように機能するか
この開発の背後にある基盤となるテクノロジーをインタラクティブに探索します。
Why can ethical evaluation not be reduced to one model score?
次に見るべきもの
州の安全基準の策定、玩具協会からの法的異議申し立ての可能性、他の州でも同様のコンパニオン チャットボット制限を採用しているかどうかを監視します。
玩具協会は一時停止に反対し、禁止よりも安全基準の策定を支持している。彼らの法的努力やロビー活動によって、最終的な規制の枠組みが形成される可能性があります。
議員らは、禁止措置が期限切れとなる2031年までに、パディラ上院議員が言及した安全基準を策定する必要がある。そうしないと制限が失効する。
他の州は、カリフォルニア州の SB 867 を AI コンパニオンデバイスの規制モデルとして検討する可能性があり、州レベルの AI 玩具規制のパッチワークにつながる可能性があります。