欧盟人工智能法案
欧盟人工智能法案是世界上第一部监管人工智能的综合法律，它将人工智能系统划分为风险等级，其规则随着危险的增加而扩大。
概述
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
深入探讨
欧盟人工智能法案于 2024 年通过，采用基于风险的方法。它彻底禁止了一些“不可接受的风险”做法，例如政府社会评分、操纵性潜意识技术以及无针对性地抓取面部信息以建立识别数据库。 “高风险”系统，例如用于招聘、信用评分、医疗设备或关键基础设施的人工智能，面临着严格的义务：风险管理、高质量数据、人工监督、记录和市场准入前的合格评估。像聊天机器人这样的“有限风险”工具必须简单地披露用户正在与人工智能进行交互。通用人工智能模型，包括大型语言模型，具有自己的透明度和文档职责，并对最有能力的“系统风险”模型进行额外审查。罚款最高可达 3500 万欧元，即全球营业额的 7%。
技术洞察
该法案按用例而非算法进行监管。根据具体情况，同一模型在一种产品中可能是低风险的，而在另一种产品中可能是高风险的。高风险提供商必须维护技术文档，保留自动事件日志以实现可追溯性，确保数据集的相关性和代表性以限制偏见，并建立有意义的人工监督。对于通用模型，提供商发布训练数据摘要，并在计算阈值（10^25 FLOPs）之上进行模型评估和对抗性测试。
战略影响
风险与安全
灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
更清晰的判决
公众和专业素养决定强有力的安全政策在政治上是否可行。
打破炒作
清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
欧盟人工智能法案的未来
该法案将在几年内分阶段实施：禁止行为禁令于 2025 年初首次实施，随后通用模型规则得以实施，大多数高风险义务将在 2026 年至 2027 年落实。预计 CEN-CENELEC 会制定统一的技术标准，准确定义如何衡量合规性，并为初创企业提供监管沙箱。与之前的 GDPR 一样，随着其他司法管辖区借鉴其风险等级结构，该法案可能会在全球范围内制定人工智能法律，尽管批评者还在争论它是否会减缓欧洲的创新。
现实世界的实施
部署人工智能信用评分工具的银行必须记录其训练数据，测试偏差，并让人类能够审查和推翻自动贷款拒绝。
使用人工智能对医疗扫描进行分类的医院必须通过合格评定，并在临床使用前在欧盟数据库中注册高风险系统。
根据有限风险透明度规则，客户服务聊天机器人必须清楚地告诉用户他们正在与人工智能而不是人工代理交谈。
超过计算阈值的大型语言模型的制造者必须运行对抗性红队测试并向欧盟人工智能办公室报告严重事件。
风险与防护栏
将存在风险视为科幻小说，同时能力复合。
混淆了表面产品安全与高度自治下的对准。
只给非英语和非专业观众留下低质量的资源。
实施路线图
单独的产品危害、误用和失控/失调风险。
询问哪些证据会改变您对时间表和严重性的看法。
比起营销主张，更喜欢主要来源和具体评估。
确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is EU AI Act?
欧盟人工智能法案是世界上第一部监管人工智能的综合法律，它将人工智能系统划分为风险等级，其规则随着危险的增加而扩大。这很重要，因为它设定了事实上的全球标准，任何向欧盟销售人工智能的公司都必须遵循。
欧盟人工智能法案使用什么组织原则来制定规则？
该法案根据用例和潜在危害，而不是根据公司规模或算法类型，将人工智能分为风险等级（不可接受、高、有限、最小）。
其中哪一项是该法案彻底禁止的“不可接受的风险”做法？
政府社会评分是被禁止的做法之一，此外还有操纵性的潜意识技术和无针对性的面部识别抓取。
像聊天机器人这样的“有限风险”系统的主要义务是什么？
有限风险系统主要承担透明度职责，例如告诉用户他们正在与人工智能而不是人类打交道。
欧盟人工智能法案规定的最高罚款是多少？
对于最严重的违规行为，最高罚款可达 3500 万欧元或全球年营业额的 7%，以较高者为准。
该法案如何对待两种不同产品中使用的相同人工智能模型？
由于该法案按用例进行监管，因此一种模型在招聘工具中可能具有高风险，但在不同的应用程序中可能具有低风险。