概述
這很重要,因為這些工具影響公共安全和公民自由,並且存在嚴重的偏見和錯誤風險。
深入探討
執法機構越來越多地部署人工智慧來分析證據和分配資源,但該技術存在著激烈的爭議。臉部辨識將攝影機中的臉部與照片或駕照資料庫進行比較;記錄在案的錯誤逮捕案件對膚色較深的人造成了不成比例的影響,導緻美國多個城市禁止或限制這種行為。預測性警務系統可以預測犯罪可能發生的地點或可能涉及的人員,但批評者認為,它們編碼並放大了歷史偏見,因為它們從已經反映過度警務的逮捕數據中學習。自動車牌讀取器會集體記錄車輛運動,聲學槍聲探測系統(例如 ShotSpotter 三角測量槍聲),儘管獨立評論對其準確性提出了質疑。人工智慧還可以加速數位鑑識、編輯隨身攝影機鏡頭並轉錄報告,引發有關透明度、監督和正當程序的持續爭論。
現實世界的實施
臉部辨識將監視影像與臉部照片資料庫進行配對(以及導致城市禁令的錯誤逮捕案件)
自動車牌閱讀器記錄車輛位置以追蹤被盜車輛或嫌疑人
ShotSpotter 等聲學槍聲偵測系統可向警方發出可疑槍聲警報
人工智慧工具會自動編輯執法記錄器鏡頭中的臉並轉錄警官報告
人工智慧在執法和警務領域的未來
預計監管將會加強,更多司法管轄區會強制要求進行稽核、準確性閾值、人工審查,並禁止即時臉部監控等某些用途。歐盟人工智慧法案將許多警務用途歸類為高風險或禁止用途。對透明度、獨立測試和明確問責制的壓力將會增加,而法院則在努力解決人工智慧證據如何符合憲法保護的問題。公共安全利益與公民自由危害之間的核心緊張關係將決定採用方式。
付諸實踐
為什麼這很重要
- 背景與規則. 產業背景決定了人工智慧創意能否與現實接觸。
- 品質管控. 領域約束會影響可接受的錯誤率和監督模型。
- 配裝選擇. 成功的部署使技術能力與第一線工作流程保持一致。
留意
- 監理要求可能會使原本強大的原型失效。
- 歷史資料可能會編碼損害特定社區的偏見。
- 遺留系統可能會造成整合瓶頸和隱性成本。
後續步驟
- 讓領域專家參與從問題框架到評估的整個過程。
- 在啟動前設計審計追蹤和文件。
- 儘早驗證合規性和安全義務。
- 分階段推出,並有明確的停止和回滾標準。
不斷探索
常見問題
什麼是執法和警務中的人工智慧?
人工智慧在警務領域的應用涵蓋臉部辨識、預測性警務、車牌讀取器和槍擊偵測。這很重要,因為這些工具影響公共安全和公民自由,並且存在嚴重的偏見和錯誤風險。
NIST 面部識別評估報告了什麼關於族群錯誤率差異?
NIST 報告稱,大多數測試的面部識別演算法顯示族群差異;差異大小因演算法、應用和影像資料而異。該研究測量了差異,並未確定其原因。
為什麼批評者說預測性警務會放大偏見?
根據歷史上有偏見的執法資料訓練的模型可以重現並強化這些模式。
臉部辨識系統根據臉部影像創建什麼?
系統將人臉編碼為向量嵌入,並使用相似性閾值將其與儲存的嵌入進行比較。
ShotSpotter 是哪種類型的系統的範例?
ShotSpotter 使用麥克風來偵測和三角測量可疑的槍聲,儘管其準確性受到質疑。
歐盟人工智慧法案如何對待許多執法人工智慧用途?
歐盟人工智慧法案將許多警務應用(例如即時生物辨識監控)歸類為高風險或禁止。