GDPR 和自动化决策
当计算机自动做出有关人们的重要决策时，欧盟的《通用数据保护条例》赋予人们权利。
概述
它是全球最具影响力的规则之一，影响了人工智能系统如何应用于欧洲人。
深入探讨
GDPR 自 2018 年 5 月起生效，是欧盟的旗舰隐私法。其与人工智能最相关的条款是第 22 条，该条款规定，人们有权不受仅基于自动化处理的决定的约束，该决定会产生法律或类似的重大影响，例如自动贷款拒绝或自动招聘拒绝。但也有例外：如果合同有必要、法律授权或基于明确同意，则可以允许该决定。即便如此，组织也必须提供保障措施，包括人为干预的权利、表达观点并对决定提出异议的权利。只要决策是完全自动化且重要的，无论是否涉及人工智能，第 22 条都适用。
技术洞察
第 22 条取决于两个门槛：决策必须完全自动化（没有有意义的人为参与），并且具有法律或类似的重大影响。人类对算法输出的橡皮图章不算是有意义的评论。结合第 13-15 条，控制者必须提供有关所涉及逻辑的有意义的信息。这促使公司转向可解释的模型和审计日志，因为它们必须能够描述输入如何映射到决策。
战略影响
风险与安全
灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
更清晰的判决
公众和专业素养决定强有力的安全政策在政治上是否可行。
打破炒作
清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
GDPR 和自动化决策的未来
GDPR 的执行力度正在加强，现在它与欧盟人工智能法案重叠，该法案为信用评分和招聘等高风险系统增加了风险分级义务。预计将有更多有关什么是完全自动化决策、更严格的分析审查以及巨额罚款（最高可达全球营业额 4%）的指导。法院，包括 SCHUFA 信用评分案中的欧盟法院，正在积极澄清评分本身何时会触发第 22 条保护。
现实世界的实施
银行使用评分算法自动拒绝信用卡申请，然后必须为申请人提供请求人工审核的方法。
在线贷款机构必须告诉被拒绝的借款人自动拒绝背后的主要因素，并有权获得有意义的逻辑信息。
一个根据评级自动停用司机的零工经济平台面临着第 22 条关于完全自动解雇的挑战。
使用人工智能简历筛选软件的招聘人员必须在最终拒绝招聘之前建立人工检查点，以遵守第 22 条的规定。
风险与防护栏
将存在风险视为科幻小说，同时能力复合。
混淆了表面产品安全与高度自治下的对准。
只给非英语和非专业观众留下低质量的资源。
实施路线图
单独的产品危害、误用和失控/失调风险。
询问哪些证据会改变您对时间表和严重性的看法。
比起营销主张，更喜欢主要来源和具体评估。
确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
什么是GDPR和自动决策？
当计算机自动做出有关人们的重要决策时，欧盟的《通用数据保护条例》赋予人们权利。这是世界上最具影响力的规则之一，决定了人工智能系统如何在欧洲人身上使用。
哪一篇 GDPR 文章专门讨论了仅基于自动化处理的决策？
第 22 条赋予个人不接受仅基于自动化处理且具有法律或类似重大影响的决策的权利。
要适用第22条，自动决定一般必须具有什么样的效果？
当决定产生法律效力或类似地对个人产生重大影响（例如贷款被拒绝或工作被拒绝）时，就会触发保护。
当在例外情况下允许完全自动化决策时，组织通常必须提供什么保障措施？
保障措施包括人为干预的权利、表达观点的权利以及对决定提出异议的权利。
对于第 22 条，人类仅仅在算法的输出上盖上橡皮图章意味着什么？
有意义的人类参与需要真正的审查和推翻的权力；象征性签署使决定保持在第 22 条的范围内。