概述
影响保单持有人的决策必须考虑准确性、不公平歧视、可解释性、数据来源和适用的州要求。模型的预测分数本身并不是完整的承保决策。
主要要点
- 定义决策背景和管辖权。
- 测试结果和差异，而不仅仅是模型分数。
- 维护治理、解释和申诉记录。
深入探讨
定义当时可用的业务范围、决策和信息。索赔图像、远程信息处理、信用相关数据和第三方评分可以具有不同的权限和错误模式。检查某个功能是否是合法的风险衡量标准，或者是受保护或不相关特征的代理。 NAIC 模型公告称，人工智能支持的决策必须遵守适用的保险法律和法规，包括不公平贸易和不公平歧视规则。它还期望监管机构可能要求的治理和信息。将公告视为组织当前针对特定司法管辖区的审查的框架。按相关群体和索赔条件评估错误率和结果。监控数据源中的申诉、覆盖、投诉和更改。较低的欺诈支付率可能反映了更多的错误拒绝，而不是更好的检测。保留模型版本、供应商数据、原因、人工审核和纠正措施的记录。为保单持有人提供一条在需要时提出问题和质疑结果的途径。
04工作示例
检查代理功能
想象一下，定价模型使用与邻域边界高度相关的特征。
测试该功能是否添加了合法的风险信息以及受影响群体之间的结果有何不同。
如果该功能造成不合理的差异，则删除或管理该功能，然后重新评估完整的定价工作流程。
它显示了什么
假设的审查显示了为什么功能的有用性和公平性需要单独分析。
现实世界的实施
对虚假延误和遗漏的高严重性案件进行审计索赔分类。
将供应商数据字段与其允许的用途和记录的来源进行比较。
付诸实践
为什么这很重要
- 背景与规则. 行业背景决定了人工智能创意能否与现实接触。
- 质量控制. 领域约束会影响可接受的错误率和监督模型。
- 构建选择. 成功的部署使技术能力与一线工作流程保持一致。
留意
- 监管要求可能会使原本强大的原型失效。
- 历史数据可能会编码损害特定社区的偏见。
- 遗留系统可能会造成集成瓶颈和隐性成本。
后续步骤
- 让领域专家参与从问题框架到评估的整个过程。
- 在启动前设计审计跟踪和文档。
- 尽早验证合规性和安全义务。
- 分阶段推出，并具有明确的停止和回滚标准。
资料来源与延伸阅读
不断探索
常见问题
使用供应商模型是否会将所有保险责任转移给供应商？
不会。保险公司仍然需要适当的监督、证据并遵守适用的要求。