社会ガイド
AIとプライバシー
AI プライバシーは、システムによる情報の収集、推論、保存、開示が人々にどのような影響を与えるかに関係します。
このガイドを聴くAIによるナレーション · ~2 min
概要
プライバシーを保護するには、完全なデータ フローを理解する必要があります。名前を非表示にしたり、ローカルでモデルを使用したりしても、すべてのプライバシー リスクが自動的に解決されるわけではありません。
主なポイント
- すべての処理場所と保存場所をマッピングします。
- タスクに関する情報は最小限に抑えます。
- 元のデータだけでなく派生データの制御も検証します。
ディープダイブ
システムに何が入ってくるのか、そこから何が推測できるのかを特定します。プロンプト、ドキュメント、画像、音声録音、ツールの結果、使用ログにはすべて個人情報が含まれる可能性があります。どのプロバイダーと内部サービスが各カテゴリを処理するかを記録します。タスクに必要なものだけを収集し、保持ポリシーを設定します。一時的なコンテキストを、保存されたメモリ、分析、デバッグ ログ、トレーニングの使用から分離します。ユーザーは、アシスタント自身の動作に関するサポートされていないステートメントに依存することなく、関連する設定を理解できる必要があります。元のデータと派生データにアクセス制御を適用します。元のアップロードが削除された後でも、検索インデックス、埋め込み、キャッシュされた応答、エクスポートされたレポートから情報が明らかになる可能性があります。実際のアプリケーションを通じて削除とアカウントの分離をテストします。技術的なプライバシーの主張を慎重に評価します。匿名化と合成データには制限がある場合がありますが、差分プライバシーなどの正式な手法はそのメカニズムとパラメータに依存します。結果として生じるデータを処理する場合は、適切な専門知識を備えた使用目的、脅威モデル、および該当する要件を確認してください。
04作業例
サポートの例を最小限に抑える
チームが分類をテストするためにサンプル メッセージが必要だとします。オリジナルには、完全な住所、注文番号、および無関係な医療詳細が含まれています。
明らかに架空のプレースホルダーを使用して、テストに不要なフィールドを置換または削除します。
残りの実際の情報は、サンプルが匿名であると想定するのではなく、文書化されたアクセスおよび保持の制御の下に保管してください。
それが示すもの
この仮説的な演習は、単純な編集によって匿名性が証明されると主張することなく、不必要な露出を削減します。
現実世界の実装
文書を認定サービスに送信する前に、無関係な個人情報を削除してください。
削除されたドキュメントがユーザーの検索結果に表示されなくなったことを確認します。
実践する
なぜそれが重要なのか
- リスクと安全性. AI による壊滅的な被害も日常的な被害も、誰がリスクを理解し、誰が行動できるかにかかっています。
- より明確な判決. 国民と専門家のリテラシーは、強力な安全政策が政治的に可能かどうかを左右します。
- 誇大広告を打ち破る. 明確な説明は、誇大広告、研究室の PR、曖昧な倫理劇場に囚われることを減らします。
気をつけてください
- 能力が複雑になる一方で、実存的なリスクを SF として扱います。
- 高度な自律性の下での調整による表面製品の安全性を混乱させる。
- 英語以外や専門家ではない聴衆には、低品質の情報源しか提供されません。
次のステップ
- 製品の危害、誤使用、制御不能/調整不良のリスクを分離します。
- どのような証拠がタイムラインと重大度についてのあなたの見方を変えるかを尋ねてください。
- マーケティング上の主張よりも、一次情報源と具体的な評価を優先します。
- 意識だけでなく、キャリア、政策、資金、スキルなど、行動経路を 1 つ特定します。
出典とさらなる参考文献
- NISTプライバシーフレームワーク
- NIST差分プライバシーの保証
探検を続けましょう
よくある質問
オンデバイス モデルは自動的にプライベートになりますか?
ローカル処理により一部の転送は削減できますが、プライバシーはログ、ストレージ、接続されたサービス、権限、出力の使用方法にも依存します。