概述
住房决策会影响住房的获取和负担能力，因此模型需要有关数据质量、公平待遇、隐私和实际决策过程的证据。预测本身并不是中立的评估。
主要要点
- 定义住房决策和背景。
- 评估细分市场和市场变化。
- 保护数据并提供纠正和监督。
深入探讨
定义属性、市场、日期和决策。内部规划的估算不同于向买家展示的价格或影响住房使用的建议。检查特征是否反映合法的财产信息或受保护特征和历史隔离的代理。评估社区、房产类型和市场状况的错误。全市平均水平可能隐藏特定社区的系统性低估或高估。部署后监控列表、利率和数据覆盖范围的变化。保护申请人、租户、所有者和位置信息。限制对记录和派生分数的访问，并为人们提供纠正不准确数据的途径。建议不应在没有适当监督的情况下悄悄排除申请人或引导人们。记录模型、数据、供应商、阈值和人工操作。在依赖自动化结果之前，请咨询合格的专家当前的住房、公平贷款、隐私和州要求。
04工作示例
检查邻居的代理
想象一个使用邮政编码的模型，该模型可以强烈预测历史价格并跟踪受保护的社区特征。
衡量该功能是否必要，不同领域的错误有何不同，以及它影响什么决策。
使用透明、经过审查的流程，而不是将分数视为中立的住房判断。
它显示了什么
构建的示例说明了为什么预测有用性和合理使用需要单独审查。
现实世界的实施
将估计值与各个细分市场的后续销售结果进行比较。
审核属性建议是否存在无法解释的排除或转向模式。
付诸实践
为什么这很重要
- 背景与规则. 行业背景决定了人工智能创意能否与现实接触。
- 质量控制. 领域约束会影响可接受的错误率和监督模型。
- 构建选择. 成功的部署使技术能力与一线工作流程保持一致。
留意
- 监管要求可能会使原本强大的原型失效。
- 历史数据可能会编码损害特定社区的偏见。
- 遗留系统可能会造成集成瓶颈和隐性成本。
后续步骤
- 让领域专家参与从问题框架到评估的整个过程。
- 在启动前设计审计跟踪和文档。
- 尽早验证合规性和安全义务。
- 分阶段推出，并具有明确的停止和回滚标准。
资料来源与延伸阅读
- NIST人工智能偏见和影响评估
不断探索
常见问题
高性能的房屋价值模型是否会使住房决策公平？
不。准确性、公平对待、隐私和下游决策是不同的问题。