概述
这很重要，因为这些工具影响着公共安全和公民自由，并且存在严重的偏见和错误风险。
深入探讨
执法机构越来越多地部署人工智能来分析证据和分配资源，但该技术存在着激烈的争议。面部识别将摄像头中的面部与照片或驾驶执照数据库进行比较；记录在案的错误逮捕案件对肤色较深的人造成了不成比例的影响，导致美国多个城市禁止或限制这种行为。预测性警务系统可以预测犯罪可能发生的地点或可能涉及的人员，但批评者认为，它们编码并放大了历史偏见，因为它们从已经反映过度警务的逮捕数据中学习。自动车牌读取器会集体记录车辆运动，声学枪声探测系统（例如 ShotSpotter 三角测量枪声），尽管独立评论对其准确性提出了质疑。人工智能还可以加速数字取证、编辑随身摄像头镜头并转录报告，引发有关透明度、监督和正当程序的持续争论。
现实世界的实施
面部识别将监控图像与面部照片数据库进行匹配（以及导致城市禁令的错误逮捕案件）
自动车牌阅读器记录车辆位置以追踪被盗车辆或嫌疑人
ShotSpotter 等声学枪声探测系统可向警方发出可疑枪声警报
人工智能工具自动编辑执法记录仪镜头中的面孔并转录警官报告
人工智能在执法和警务领域的未来
预计监管将会加强，更多司法管辖区会强制要求进行审计、准确性阈值、人工审查，并禁止实时面部监控等某些用途。欧盟人工智能法案将许多警务用途归类为高风险或禁止用途。对透明度、独立测试和明确问责制的压力将会增加，而法院则在努力解决人工智能证据如何符合宪法保护的问题。公共安全利益与公民自由危害之间的核心紧张关系将决定采用方式。
付诸实践
为什么这很重要
- 背景与规则. 行业背景决定了人工智能创意能否与现实接触。
- 质量控制. 领域约束会影响可接受的错误率和监督模型。
- 构建选择. 成功的部署使技术能力与一线工作流程保持一致。
留意
- 监管要求可能会使原本强大的原型失效。
- 历史数据可能会编码损害特定社区的偏见。
- 遗留系统可能会造成集成瓶颈和隐性成本。
后续步骤
- 让领域专家参与从问题框架到评估的整个过程。
- 在启动前设计审计跟踪和文档。
- 尽早验证合规性和安全义务。
- 分阶段推出，并具有明确的停止和回滚标准。
不断探索
常见问题
什么是执法和警务中的人工智能？
人工智能在警务领域的应用涵盖面部识别、预测性警务、车牌读取器和枪击检测。这很重要，因为这些工具影响着公共安全和公民自由，并且存在严重的偏见和错误风险。
What did NIST face-recognition evaluations report about demographic error-rate differences?
NIST reported that most tested face-recognition algorithms exhibited demographic differentials; the size varied with the algorithm, application, and image data. The study measured differences and did not establish their causes.
为什么批评者说预测性警务会放大偏见？
根据历史上有偏见的执法数据训练的模型可以重现并强化这些模式。
面部识别系统根据面部图像创建什么？
系统将人脸编码为向量嵌入，并使用相似性阈值将其与存储的嵌入进行比较。
ShotSpotter 是哪种类型的系统的示例？
ShotSpotter 使用麦克风来检测和三角测量可疑的枪声，尽管其准确性受到质疑。
欧盟人工智能法案如何对待许多执法人工智能用途？
欧盟人工智能法案将许多警务应用（例如实时生物识别监控）归类为高风险或禁止。