社团指南

经合组织人工智能原则

2019 年 5 月通过的经合组织人工智能原则是第一个人工智能政府间标准:五项基于价值观的值得信赖的人工智能原则和五项给政府的建议。

  • 3 分钟阅读
  • 最后更新
在本页3 分钟阅读
  1. 概述
  2. 深入探讨
  3. 战略影响
  4. 经合组织人工智能原则的未来
  5. 现实世界的实施
  6. 风险与防护栏
  7. 实施路线图
  8. 不断探索
  9. 常见问题

概述

它们不是具有约束力的法律,但它们塑造了 G20 人工智能原则、欧盟人工智能法案对人工智能系统的定义以及许多国家人工智能战略。

深入探讨

经合组织理事会于 2019 年 5 月通过了《人工智能建议书》。成员国和一些非成员国都遵守了该建议书,2019 年 6 月,二十国集团通过了从中汲取的人工智能原则,将其影响范围扩大到了经合组织以外的主要经济体。值得信赖的人工智能的五个基于价值观的原则是:包容性增长、可持续发展和福祉;尊重法治、人权和民主价值观,包括公平和隐私;透明度和可解释性;稳健性、安全性和安全性;和问责制。除此之外,还有向政策制定者提出的五项建议:投资人工智能研究和开发;培育包容性人工智能生态系统;实现可互操作的治理和政策环境;建设人力资源并为劳动力市场转型做好准备;并进行国际合作。经合组织于 2023 年 11 月修订了人工智能系统的定义。它现在描述了一种基于机器的系统,针对明确或隐含的目标,从其输入推断如何生成可以影响物理或虚拟环境的预测、内容、建议或决策等输出,并指出系统在自主性和适应性方面存在差异。欧盟人工智能法案的定义紧密遵循这一措辞,这有助于公司和监管机构讲出共同语言。 2024 年 5 月,原则本身进行了更新,以解决通用和生成人工智能的问题。变化包括更加关注错误信息和虚假信息、安全性(包括推翻或安全停用以不良方式运行的系统的能力)、环境可持续性以及治理制度之间的互操作性。经合组织通过 2020 年启动的 OECD.AI 政策观察站支持这些原则,该观察站跟踪国家政策和数据,并开展事件监测等工作。一个常见的误解是这些原则对公司施加了义务。它们是政府级别的推荐;它们的影响力来自于采用它们的国家法律、标准和采购。

战略影响

风险与安全

灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。

更清晰的判决

公众和专业素养决定强有力的安全政策在政治上是否可行。

打破炒作

清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。

经合组织人工智能原则的未来

经合组织的角色已从监管者转变为协调点。它支持七国集团广岛人工智能流程下的报告,并致力于事件跟踪和测量,这可以为政府提供更多可比的证据。由于这些原则的层次较高,其实际效果取决于国家法律、标准机构和采购规则是否不断引用它们。区域方法之间的分歧,例如欧盟的约束性监管和其他地方的宽松制度,使得共享基线很有用,但并不能保证趋同。随着人工智能能力的变化,可能会进一步修订。

现实世界的实施

欧盟立法者将《人工智能法案》对人工智能系统的定义与经合组织 2023 年更新的定义保持一致,因此这两个框架描述了相同类型的系统。

制定人工智能战略的国家政府会围绕经合组织的五项建议来组织其承诺,例如投资人工智能研究和为工人做好应对劳动力市场变化的准备。

政策研究人员使用 OECD.AI 政策观察站来比较不同国家如何资助人工智能研究和监管人工智能。

公司负责任的人工智能政策将其内部规则映射到经合组织的透明度、稳健性和问责制原则,向客户展示其方法遵循国际基线。

风险与防护栏

  • 将存在风险视为科幻小说,同时能力复合。

  • 混淆了表面产品安全与高度自治下的对准。

  • 只给非英语和非专业观众留下低质量的资源。

实施路线图

  1. 单独的产品危害、误用和失控/失调风险。

  2. 询问哪些证据会改变您对时间表和严重性的看法。

  3. 比起营销主张,更喜欢主要来源和具体评估。

  4. 确定一条行动路径:职业、政策、资金或技能——而不仅仅是意识。

不断探索

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the OECD AI Principles quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

开始测验

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

常见问题

什么是 OECD 人工智能原则?

2019 年 5 月通过的经合组织人工智能原则是第一个人工智能政府间标准:五项基于价值观的值得信赖的人工智能原则和五项给政府的建议。它们不是具有约束力的法律,但它们塑造了 G20 人工智能原则、欧盟人工智能法案对人工智能系统的定义以及许多国家人工智能战略。

经合组织人工智能原则何时首次采用?

经合组织理事会于 2019 年 5 月通过了《人工智能建议书》,这是第一个政府间人工智能标准。

五项基于价值观的原则中哪一项是?

五是包容性增长和福祉;法治、人权和民主价值观;透明度和可解释性;稳健性、安全性和安全性;和问责制。

哪一项是对政策制定者的建议,而不是基于价值观的原则?

建设人员能力是向政府提出的五项建议之一;列出的其他原则是基于价值观的原则。

哪个机构于 2019 年 6 月采用了来自 OECD 的人工智能原则?

G20 人工智能原则借鉴了 OECD 建议书,将其范围扩展到 OECD 成员国之外。

经合组织定义中的哪个词最能区分人工智能系统和简单的基于规则的软件?

该定义表示,人工智能系统根据输入推断如何生成输出,这是大多数范围阅读的关键。