公共部门的人工智能

公共系统影响权利、利益、安全和访问，因此问责制、透明度、可访问性和合法权威是使用环境的核心。

主要要点

• 定义权威和受影响的人。
• 记录数据、决定和上诉。
• 监控公共结果和供应商变化。

定义公共服务成果以及受影响的人员，包括无法轻松使用数字渠道的人。分类模型、资格推荐和公共聊天机器人需要不同的证据和监督。不要让代理分数默默地决定一个人对服务的访问权限。记录数据源、模型版本、决策规则和人员职责。测试相关人群的错误率和可访问性，并提供有意义的途径来质疑或纠正结果。如果不能确定所使用的实际因素，一般性解释是不够的。将试点证据与操作授权分开。采购、安全、记录、隐私和公共部门规则可以独立于模型的基准性能而应用。发布适当的方法和限制而不暴露私人信息。监测部署后的效果并让受影响的社区参与进来。该机构仍然负责整个工作流程，包括供应商、更新、员工培训以及系统故障时的后备。

1. 想象一个模型，使用过去的处理数据对应用程序进行优先级审查。
2. 检查标签是否反映了管理延迟而不是资格，以及是否有任何群体获得系统性较慢的服务。
3. 保留一名人类决策者，记录原因并监控释放后的上诉和结果。

构建的案例将工作流程优先级与法律或资格决策分开。