社会ガイド
GDPR と自動化された意思決定
GDPR Article 22 addresses decisions based solely on automated processing, including profiling, when they produce legal effects or similarly significantly affect a person.
このガイドを聴くAIによるナレーション · ~2 min
概要
It includes specific exceptions and safeguards; application depends on the facts and applicable law.
ディープダイブ
Article 22(1) gives a data subject the right not to be subject to a decision based solely on automated processing, including profiling, that produces legal effects or similarly significantly affects them. Article 22(2) lists exceptions for necessity in a contract, authorization by Union or Member State law, or explicit consent. Article 22(3) specifies safeguards, including human intervention, an opportunity to express a point of view and to contest the decision, for the exceptions in Article 22(2)(a) and (c). In SCHUFA (C-634/21), the Court held that automated establishment of a credit score can itself fall within Article 22 where a third party gives the score a determining role in a decision.
現実世界の実装
Hypothetical scenario: assess whether a fully automated credit decision has legal or similarly significant effects on a person.
Hypothetical scenario: document whether a contract or explicit-consent exception is being relied on and which safeguards apply.
A person may request relevant meaningful information under Article 15 in the circumstances described by the regulation.
When analyzing a credit score, consider the CJEU’s SCHUFA judgment and whether a third party gives the score a determining role in a decision.
GDPR と自動化された意思決定の将来
Interpretation of automated decision-making continues through EU and national law. For each use case, document the processing chain, human role, effect on the person, applicable exception and required safeguards, then check current regulatory guidance and case law.
実践する
なぜそれが重要なのか
- リスクと安全性. AI による壊滅的な被害も日常的な被害も、誰がリスクを理解し、誰が行動できるかにかかっています。
- より明確な判決. 国民と専門家のリテラシーは、強力な安全政策が政治的に可能かどうかを左右します。
- 誇大広告を打ち破る. 明確な説明は、誇大広告、研究室の PR、曖昧な倫理劇場に囚われることを減らします。
気をつけてください
- 能力が複雑になる一方で、実存的なリスクを SF として扱います。
- 高度な自律性の下での調整による表面製品の安全性を混乱させる。
- 英語以外や専門家ではない聴衆には、低品質の情報源しか提供されません。
次のステップ
- 製品の危害、誤使用、制御不能/調整不良のリスクを分離します。
- どのような証拠がタイムラインと重大度についてのあなたの見方を変えるかを尋ねてください。
- マーケティング上の主張よりも、一次情報源と具体的な評価を優先します。
- 意識だけでなく、キャリア、政策、資金、スキルなど、行動経路を 1 つ特定します。
探検を続けましょう
よくある質問
GDPR と自動化された意思決定とは何ですか?
GDPR Article 22 addresses decisions based solely on automated processing, including profiling, when they produce legal effects or similarly significantly affect a person. It includes specific exceptions and safeguards; application depends on the facts and applicable law.
自動処理のみに基づいた意思決定について具体的に取り上げている GDPR の記事はどれですか?
第 22 条は、法的または同様に重大な影響を与える自動処理のみに基づく決定の対象とならない権利を個人に付与します。
第 22 条が適用されるためには、自動化された決定は一般にどのような効果をもたらす必要がありますか?
この保護は、ローンの拒否や就職の拒否など、決定が法的効果をもたらすか、同様に個人に重大な影響を与える場合に発動されます。
For an Article 22(2)(a) contract or (c) explicit-consent exception, which safeguard must the controller provide?
Article 22(3) requires safeguards, at minimum human intervention, an opportunity to express the person’s point of view, and to contest the decision, for the exceptions in Article 22(2)(a) and (c). The provision does not state this same rule for the law-authorization exception in (b).
人間が単にアルゴリズムの出力にゴム印を押すだけでは、第 22 条にとって何の意味があるのでしょうか?
有意義な人間の関与には、真のレビューと上書きする権限が必要です。トークンのサインオフにより、決定は第 22 条の範囲内に収まります。
What kind of information can a person request about relevant automated decision-making under GDPR Article 15?
Article 15(1)(h) provides access to meaningful information about the logic involved and the significance and envisaged consequences in relevant automated-decision cases.