概述
公共系统影响权利、利益、安全和访问，因此问责制、透明度、可访问性和合法权威是使用环境的核心。
主要要点
- 定义权威和受影响的人。
- 记录数据、决定和上诉。
- 监控公共结果和供应商变化。
深入探讨
定义公共服务成果以及受影响的人员，包括无法轻松使用数字渠道的人。分类模型、资格推荐和公共聊天机器人需要不同的证据和监督。不要让代理分数默默地决定一个人对服务的访问权限。记录数据源、模型版本、决策规则和人员职责。测试相关人群的错误率和可访问性，并提供有意义的途径来质疑或纠正结果。如果不能确定所使用的实际因素，一般性解释是不够的。将试点证据与操作授权分开。采购、安全、记录、隐私和公共部门规则可以独立于模型的基准性能而应用。发布适当的方法和限制而不暴露私人信息。监测部署后的效果并让受影响的社区参与进来。该机构仍然负责整个工作流程，包括供应商、更新、员工培训以及系统故障时的后备。
04工作示例
查看福利建议
想象一个模型，使用过去的处理数据对应用程序进行优先级审查。
检查标签是否反映了管理延迟而不是资格，以及是否有任何群体获得系统性较慢的服务。
保留一名人类决策者，记录原因并监控释放后的上诉和结果。
它显示了什么
构建的案例将工作流程优先级与法律或资格决策分开。
现实世界的实施
为自动化服务分类提供人工诉求路径。
使用语言、屏幕阅读器和低连接性测试公共表单。
付诸实践
为什么这很重要
- 背景与规则. 行业背景决定了人工智能创意能否与现实接触。
- 质量控制. 领域约束会影响可接受的错误率和监督模型。
- 构建选择. 成功的部署使技术能力与一线工作流程保持一致。
留意
- 监管要求可能会使原本强大的原型失效。
- 历史数据可能会编码损害特定社区的偏见。
- 遗留系统可能会造成集成瓶颈和隐性成本。
后续步骤
- 让领域专家参与从问题框架到评估的整个过程。
- 在启动前设计审计跟踪和文档。
- 尽早验证合规性和安全义务。
- 分阶段推出，并具有明确的停止和回滚标准。
资料来源与延伸阅读
- NIST人工智能风险管理框架
不断探索
常见问题
公共机构可以仅依赖供应商的准确性声明吗？
不。它需要有关实际服务、人口、数据、法律背景和后果的证据，并进行负责任的监督。