NIST 人工智能风险管理框架
NIST 人工智能风险管理框架 (AI RMF) 是美国政府自愿制定的手册，旨在通过识别和管理整个生命周期的风险来构建值得信赖的人工智能。
概述
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
深入探讨
AI RMF 1.0 由美国国家标准与技术研究所于 2023 年 1 月发布，是自愿的且与行业无关。它围绕四个核心职能进行组织：治理（建立人工智能风险文化和政策）、映射（了解背景并识别风险）、测量（使用指标分析和跟踪风险）和管理（确定风险的优先级并针对这些风险采取行动）。该框架定义了值得信赖的人工智能的特征：有效和可靠、安全、可靠和有弹性、负责和透明、可解释和解释、隐私增强、公平且有害偏见得到管理。 NIST 还发布了一本包含具体建议行动的配套手册，并于 2024 年添加了生成式 AI 配置文件，以解决大型语言模型特有的风险，例如虚构、数据泄露和有害内容。
技术洞察
与清单不同，RMF 将可信度视为一组需要平衡的权衡，因为改进一个属性（例如，准确性）可能会降低另一个属性（例如，隐私或公平性）。治理职能是跨领域的，并为其他三个职能提供支持。 Measure 强调使用定量指标和定性方法，包括红队和人工评估，因为许多人工智能危害无法纯数字捕获。框架指定的是结果，而不是具体工具。
战略影响
风险与安全
灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
更清晰的判决
公众和专业素养决定强有力的安全政策在政治上是否可行。
打破炒作
清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
NIST 人工智能风险管理框架的未来
预计 RMF 将成为通用参考基线，映射到欧盟人工智能法案和新兴美国州法律等具有约束力的制度，从而简化多司法管辖区的合规性。 NIST 继续发布针对特定环境和技术的配置文件，其中生成式人工智能是主要关注点。联邦采购和机构指南越来越多地指向 RMF，而 ISO/IEC 42001 等标准的交叉路口也在不断增加，使其成为全球人工智能治理的结缔组织，尽管它仍然是自愿的。
现实世界的实施
一家科技公司绘制了新招聘人工智能的背景图，在发布任何代码之前列出了受影响的群体和潜在危害，从而实现了地图功能。
一家银行设立了人工智能治理委员会并制定了风险政策，以满足其所有模型的治理职能。
团队使用红队和偏差指标来量化测量功能下聊天机器人的故障模式。
一家健康保险公司遵循生成式 AI 配置文件来解决面向客户的法学硕士中的混淆和数据泄露风险。
风险与防护栏
将存在风险视为科幻小说，同时能力复合。
混淆了表面产品安全与高度自治下的对准。
只给非英语和非专业观众留下低质量的资源。
实施路线图
单独的产品危害、误用和失控/失调风险。
询问哪些证据会改变您对时间表和严重性的看法。
比起营销主张，更喜欢主要来源和具体评估。
确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is NIST AI Risk Management Framework?
NIST 人工智能风险管理框架 (AI RMF) 是美国政府自愿制定的手册，旨在通过识别和管理整个生命周期的风险来构建值得信赖的人工智能。这很重要，因为它为组织提供了一个实用、灵活的结构来实施负责任的人工智能，而无需成为具有约束力的法律。
NIST AI RMF 的四大核心功能是什么？
该框架围绕治理、地图、测量和管理构建，其中治理作为横切功能，为其他功能提供支持。
法律是否要求遵守 NIST AI RMF？
AI RMF 是明确自愿的且与部门无关，提供指导而不是可执行的命令。
哪个功能被描述为交叉并融入其他三个功能？
治理建立支撑规划、衡量和管理的文化、政策和问责结构。
为什么 RMF 将可信度视为一组权衡？
一项特征（如准确性）的收益可能会以牺牲另一种特征（如隐私或公平性）为代价，因此必须平衡它们。
NIST 在 2024 年向框架添加了哪些内容来解决大型语言模型问题？
2024 年生成式人工智能配置文件解决了法学硕士特有的风险，例如虚构、数据泄露和有害内容。