概述
公共系统影响权利、利益、安全和访问,因此问责制、透明度、可访问性和合法权威是使用环境的核心。
重點摘要
- 定義權威和受影響的人。
- 記錄數據、決定和上訴。
- 監控公共結果和供應商變化。
深入探討
定义公共服务成果以及受影响的人员,包括无法轻松使用数字渠道的人。分類模型、資格推薦和公共聊天機器人需要不同的證據和監督。不要让代理分数默默地决定一个人对服务的访问权限。記錄資料來源、模型版本、決策規則和人員職責。測試相關人群的錯誤率和可近性,並提供有意義的途徑來質疑或糾正結果。如果不能确定所使用的实际因素,一般性解释是不够的。將試點證據與操作授權分開。採購、安全、記錄、隱私和公共部門規則可以獨立於模型的基準效能而應用。發布適當的方法和限製而不暴露私人資訊。監測部署後的效果並讓受影響的社區參與其中。該機構仍負責整個工作流程,包括供應商、更新、員工培訓以及系統故障時的後備。
04工作範例
查看福利建議
想像一個模型,使用過去的處理資料對應用程式進行優先審查。
检查标签是否反映了管理延迟而不是资格,以及是否有任何群体获得系统性较慢的服务。
保留一名人類決策者,記錄原因並監控釋放後的上訴和結果。
它顯示了什麼
建構的案例將工作流程優先順序與法律或資格決策分開。
現實世界的實施
為自動化服務分類提供人工訴求路徑。
使用语言、屏幕阅读器和低连接性测试公共表单。
付諸實踐
為什麼這很重要
- 背景與規則. 產業背景決定了人工智慧創意能否與現實接觸。
- 品質管控. 領域約束會影響可接受的錯誤率和監督模型。
- 配裝選擇. 成功的部署使技術能力與第一線工作流程保持一致。
留意
- 監理要求可能會使原本強大的原型失效。
- 歷史資料可能會編碼損害特定社區的偏見。
- 遺留系統可能會造成整合瓶頸和隱性成本。
後續步驟
- 讓領域專家參與從問題框架到評估的整個過程。
- 在啟動前設計審計追蹤和文件。
- 儘早驗證合規性和安全義務。
- 分階段推出,並有明確的停止和回滾標準。
資料來源與延伸閱讀
- NIST人工智慧風險管理框架
不斷探索
常見問題
公共機構可以只依賴供應商的準確性聲明嗎?
不。它需要有關實際服務、人口、數據、法律背景和後果的證據,並進行負責任的監督。