概述
NIST 人工智能风险管理框架 (AI RMF) 是美国政府自愿制定的手册，旨在通过识别和管理整个生命周期的风险来构建值得信赖的人工智能。这很重要，因为它为组织提供了一个实用、灵活的结构来实施负责任的人工智能，而无需成为具有约束力的法律。
NIST 人工智能风险管理框架属于人工智能的社会和治理层，其中政策、问责制和公众信任塑造长期影响。
深入探讨
AI RMF 1.0 由美国国家标准与技术研究所于 2023 年 1 月发布，是自愿的且与行业无关。它围绕四个核心职能进行组织：治理（建立人工智能风险文化和政策）、映射（了解背景并识别风险）、测量（使用指标分析和跟踪风险）和管理（确定风险的优先级并针对这些风险采取行动）。该框架定义了值得信赖的人工智能的特征：有效和可靠、安全、可靠和有弹性、负责和透明、可解释和解释、隐私增强、公平且有害偏见得到管理。 NIST 还发布了一本包含具体建议行动的配套手册，并于 2024 年添加了生成式 AI 配置文件，以解决大型语言模型特有的风险，例如虚构、数据泄露和有害内容。
技术洞察
与清单不同，RMF 将可信度视为一组需要平衡的权衡，因为改进一个属性（例如，准确性）可能会降低另一个属性（例如，隐私或公平性）。治理职能是跨领域的，并为其他三个职能提供支持。 Measure 强调使用定量指标和定性方法，包括红队和人工评估，因为许多人工智能危害无法纯数字捕获。框架指定的是结果，而不是具体工具。
掌握 NIST AI 风险管理框架
NIST 人工智能风险管理框架 (AI RMF) 是美国政府自愿制定的手册，旨在通过识别和管理整个生命周期的风险来构建值得信赖的人工智能。这很重要，因为它为组织提供了一个实用、灵活的结构来实施负责任的人工智能，而无需成为具有约束力的法律。 NIST 人工智能风险管理框架属于人工智能的社会和治理层，其中政策、问责制和公众信任塑造长期影响。为了建立深入的理解，请将 NIST AI 风险管理框架视为一种操作模型，而不是单一功能：定义期望的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用 NIST 人工智能风险管理框架的强大团队将能力增长与治理、安全和明确的问责结构结合起来。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
社会决策决定了谁受益、谁承担风险。与此同时，广泛的主张可能比证据和负责任的监督传播得更快。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
社会决策决定了谁受益、谁承担风险。
社会决策决定了谁受益、谁承担风险。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
公共机构、学校和企业都依赖于明确的人工智能治理。
公共机构、学校和企业都依赖于明确的人工智能治理。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
良好的政策设计可以在不阻碍有用创新的情况下提高安全性。
良好的政策设计可以在不阻碍有用创新的情况下提高安全性。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
一家科技公司绘制了新招聘人工智能的背景图，在发布任何代码之前列出了受影响的群体和潜在危害，从而实现了地图功能。
一家银行设立了人工智能治理委员会并制定了风险政策，以满足其所有模型的治理职能。
团队使用红队和偏差指标来量化测量功能下聊天机器人的故障模式。
一家健康保险公司遵循生成式 AI 配置文件来解决面向客户的法学硕士中的混淆和数据泄露风险。
实施模式
NIST 人工智能风险管理框架的实践
一家科技公司绘制了新招聘人工智能的背景图，在发布任何代码之前列出了受影响的群体和潜在危害，从而实现了地图功能。
一家科技公司绘制了新招聘人工智能的背景图，在发布任何代码之前列出受影响的群体和潜在危害，实现地图功能。当团队预先定义质量阈值、为边缘情况保留人员升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
NIST 人工智能风险管理框架的实践
一家银行设立了人工智能治理委员会并制定了风险政策，以满足其所有模型的治理职能。
银行设立人工智能治理委员会并制定书面风险政策，以满足其所有模型的治理功能。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
NIST 人工智能风险管理框架的实践
团队使用红队和偏差指标来量化测量功能下聊天机器人的故障模式。
团队使用红队和偏差指标来量化测量功能下聊天机器人的故障模式。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
NIST 人工智能风险管理框架的实践
一家健康保险公司遵循生成式 AI 配置文件来解决面向客户的法学硕士中的混淆和数据泄露风险。
健康保险公司遵循生成式 AI 配置文件来解决面向客户的 LLM 团队中的混淆和数据泄露风险。当他们预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
广泛的主张可能比证据和负责任的监督传播得更快。
当损害发生时，治理薄弱可能会留下责任空白。
当准入、透明度和审查受到限制时，权力就会集中。
实施路线图
确定受影响的利益相关者和最重要的危害。
确定受影响的利益相关者和最重要的危害。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
设定数据、模型和决策的透明度要求。
设定数据、模型和决策的透明度要求。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为高风险系统添加独立审查或红队测试。
为高风险系统添加独立审查或红队测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
随着功能和使用模式的发展更新策略和控制。
随着功能和使用模式的发展更新策略和控制。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。