概述
财务决策有不同的法律和操作要求，预测与允许或公平的决策不同。定义部署前所需的产品、消费者影响和证据。
主要要点
- 定义决策背景和错误成本。
- 记录输入、版本、阈值和人类操作。
- 做出解释反映真实的决策过程。
深入探讨
从结果和决策者开始。标记交易以供调查的模型与拒绝信贷申请的模型不同。记录决策时可用的数据、目标标签以及误报和漏报的后果。历史决策可以编码过去的选择，但可能不是合适的目标。保留数据、特征、模型版本、阈值和人工操作的审计跟踪。测试漂移、缺失值和异常帐户行为。阻止合法客户的欺诈检测器可能会产生未出现在准确性分数中的成本。发布后监控审核队列和投诉模式。对于信贷决策，CFPB 指出复杂的算法并不能免除提供具体不利行动原因的义务。解释应确定决策过程中使用的实际因素，而不是事后发明的通用特征列表。获取有关司法管辖区和产品的最新法律建议。保护帐户信息并限制自动操作。需要确认转账、账户变更或其他高影响结果，并在执行后验证结果状态。
04工作示例
区分分数和决策
假设某个模型给应用程序的风险评分为 0.72。
政策设定阈值，审核者检查文档，通知解释不利决定的具体原因。
分别评估模型、策略、审查和通知，而不是将分数视为决策本身。
它显示了什么
本发明的工作流程将预测与受监管的行动分开。
现实世界的实施
将欺诈标记与调查人员验证的结果和审查负担进行比较。
根据实际改变决定的功能测试信用解释。
付诸实践
为什么这很重要
- 背景与规则. 行业背景决定了人工智能创意能否与现实接触。
- 质量控制. 领域约束会影响可接受的错误率和监督模型。
- 构建选择. 成功的部署使技术能力与一线工作流程保持一致。
留意
- 监管要求可能会使原本强大的原型失效。
- 历史数据可能会编码损害特定社区的偏见。
- 遗留系统可能会造成集成瓶颈和隐性成本。
后续步骤
- 让领域专家参与从问题框架到评估的整个过程。
- 在启动前设计审计跟踪和文档。
- 尽早验证合规性和安全义务。
- 分阶段推出，并具有明确的停止和回滚标准。
资料来源与延伸阅读
- Consumer Financial Protection Bureau复杂算法的不良行为通知要求
不断探索
常见问题
使用复杂的人工智能模型是否无需解释信用拒绝？
不可以。适用的不利行动要求仍然可能需要与实际决定相关的具体原因。