何が起こったのか
CX Today の報道によると、OpenAI グローバル アフェアーズは、SB 53 として知られるカリフォルニア州のフロンティア AI 透明性法を改正するよう議員らに要請し、同時に、最終的には国家枠組みに情報を提供する可能性がある互換性のある州レベルの規則を促進しました。同報道によれば、Anthropic氏もこの法律を支持しつつ、最終的には連邦規制が適用されることを望んでいるという。
CX Todayは、OpenAIグローバル・アフェアーズがカリフォルニア州のフロンティアAI透明性法（SB 53）の修正を提案したと報じた。同メディアは、OpenAIが「逆連邦主義」と呼ぶモデルを支持していると述べている。このモデルでは、連邦議会が連邦法を議論している間に各州が互換性のあるフロンティアAIの安全ルールに最初に取り組むというものだ。 CX Today によると、OpenAI 氏は SB 53 をフロンティア AI の安全性の基盤として賞賛し、その中核領域であるリスク評価、透明性、インシデント報告、セキュリティは最も有能なモデルの開発者に一貫して適用されるべきであると述べました。この情報源は、修正案の立法上の地位を独自に確認したり、カリフォルニア州議員からの公的反応を特定したりしていません。
CX Today によると、OpenAI が要求した変更には、潜在的な重大インシデントのトレーニングまたは評価中にフロンティア モデルを監視することが含まれる予定です。記事によると、OpenAI は、サードパーティのセキュリティ管理を回避して機密情報を侵害する可能性のある行為と、モデルが内部管理を回避することを防ぐためのモデル開発ライフサイクル全体にわたる強力なサイバーセキュリティ保護について具体的に説明しました。これらの詳細は、開発者がシステムをどのように監視するか、何をインシデントとして分類するか、障害をどのように調査して封じ込めるかなど、一般原則を超えて運用上の証拠に向けて議論を進めます。 CX Today はまた、Dream のサイバー研究および製品担当副社長である Kfir Fleischer 氏の発言を引用し、アクセスが許可されていないシステムにモデルが到達する場合のセキュリティへの影響について論じています。
CX Today は、Anthropic が SB 53 を別途支持し、最終的には州法のつぎはぎよりも連邦法の方が望ましいと主張したと報じた。同アウトレットによると、Anthropicは安全枠組み、透明性報告書、重大インシデント報告書、内部告発者保護、規定された約束を守らなかった場合の罰則を強調したという。 CX Todayは、リスク評価、サイバーセキュリティ、独立した評価、柔軟な安全対策に関する両社の立場の実質的な重複について説明しているが、規制当局をめぐる相違も報告している。OpenAIは調和と「ミッションクリープ」の制限を強調しているのに対し、Anthropicは政府が危険な展開を阻止または抑止する権限が必要である可能性があると主張している。情報源は、両社の立場が法律に組み込まれているかどうかを明らかにしていない。
なぜそれが重要なのか
報告された見解により、顧客サービス、販売、従業員サポートのために AI を購入する組織にとって、ベンダー ガバナンスの実践がより重要になるでしょう。買い手は、モデルのモニタリング、インシデント対応、サイバーセキュリティ、安全性報告、顧客データの取り扱いに関する証拠を必要とする可能性があるが、情報筋は議員や規制当局がどのように対応するかを独自に確認していない。
CX Today のレポートは、フロンティア AI 規制を調達とガバナンスに直接結び付けるものであるため、カスタマー エクスペリエンス組織にとって重要です。同アウトレットによると、顧客サービス、販売、従業員サポートに AI を使用する企業は、機能と価格だけでなく、プロバイダーがどのようにリスク評価を実施し、モデルを監視し、モデルの重みとトレーニング環境を保護し、顧客データをどのように扱うかを評価する必要があるかもしれないと述べています。ルールで最低限の開示義務やインシデント義務が定められている場合、それらの要件はベンダーの選択、契約条件、継続的なコンプライアンスレビューの一部となる可能性があります。この情報源は、影響を受ける組織の数を定量化したり、どの CX 製品が SB 53 に該当するのかを特定したりしていません。
CX Today が説明する実際的な変化は、AI システムが機能するかどうかを問うことから、その動作を取り巻く証拠は何かを問うことです。顧客対応エージェントは、機密レコードを操作したり、推奨事項を作成したり、ワークフロー アクションをトリガーしたり、サポートの決定に影響を与えたりすることができます。この記事では、CXのリーダーはベンダーに対し、何を報告対象のインシデントとして扱うのか、評価や導入時にシステムがどのように監視されるのか、安全性レポートやシステムカードが入手可能かどうかを尋ねるべきだと述べている。これらの質問は、購入者がプロバイダーを比較するのに役立つ可能性がありますが、レポートには、現在、独立して監査された共通の回答セットを提供しているベンダーはありません。
この報告書は、競争に影響を与える可能性のある政策上の緊張も示している。 CX Todayは、州の要件が異なるとテスト、開示、インシデント報告、サイバーセキュリティ、監査について個別の義務が生じる可能性があるため、大手モデル開発者は一貫したルールを求めていると述べている。同じ規則により、安全性の文書化や監視に投資していない企業にもコストが課される可能性があります。同時に記事は、企業や政府のアクセスを複雑にする可能性のある広範な、または非常に規範的な要件に両社が反対していると報告している。調和されたルールが説明責任を向上させるのか、それとも主に既存の開発者の好みを反映するのかは、ソースでは未解決のままです。
インタラクティブなメカニズム: 実際にどのように機能するか
この開発の背後にある基盤となるテクノロジーをインタラクティブに探索します。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
次に見るべきもの
重要な問題は、カリフォルニア州がSB 53を変更するかどうか、他の州が互換性のある要件を採用するかどうか、そして議会が連邦枠組みを作成するかどうかである。 CX チームは、最終規則が報告対象のインシデント、影響を受けるモデル、ベンダーの開示、独立した評価、危険な展開に対する制限をどのように定義するかにも注目する必要があります。
当面の注目すべき問題は、カリフォルニア州の議員が、OpenAIが提案したSB 53の方向性を受け入れるか、拒否するか、修正するかである。CX Todayは、修正案の本文、立法措置のスケジュール、カリフォルニア州当局からの回答を提供していない。監視、インシデント報告、サイバーセキュリティの要件は、定義、執行権限、対象となるシステム、罰則によって大幅に異なる可能性があるため、これらの未知数は重要です。したがって、今回の報告書は政策介入を示すものであり、規制変更の完了を示すものではない。
CX Todayは、互換性のある州の枠組みが最終的に連邦法の基礎となる可能性があると述べているが、報告書は議会がそのアプローチに同意したという証拠を示していない。他の州がカリフォルニア州の要件を模倣するか、大幅に異なる基準を採用するか、あるいはより狭い範囲の AI の使用に重点を置くかに注目してください。また、連邦政府の提案が、モデルの評価、安全性の開示、安全管理、内部告発者の保護、危険な配備に対する政府の権限など、同じ運用分野に取り組んでいるかどうかにも注目してください。これらの詳細が決まるまで、企業は、ある州の要件が国家ベースラインになるとは想定できません。
CX チームにとって、レポートで説明されている最も有益な短期的なステップは、構造化されたベンダー デュー デリジェンスです。購入者は、リスク評価、安全フレームワーク、評価および展開中のモニタリング、インシデントのしきい値、データ保護、モデル開発環境の安全対策に関する情報を要求できます。また、インシデント発生後にベンダーが顧客にどのように通知するか、導入組織にどのような責任が残るのかも明確にする必要があります。 CX Today は、これらの慣行が現在法的に義務付けられているとは報じておらず、OpenAI または Anthropic の安全性主張を独自に検証していません。したがって、調達に関する決定は、ベンダーのコミットメントと強制可能なルールおよび独立してテストされたパフォーマンスを区別する必要があります。