AI trong thực thi pháp luật và chính sách
AI trong hoạt động kiểm soát bao gồm nhận dạng khuôn mặt, dự đoán chính sách, đọc biển số xe và phát hiện tiếng súng.
Tổng quan
It matters because these tools shape public safety and civil liberties, and they carry serious risks of bias and error.
Lặn sâu
Các cơ quan thực thi pháp luật ngày càng triển khai AI để phân tích bằng chứng và phân bổ nguồn lực, nhưng công nghệ này đang bị tranh cãi gay gắt. Nhận dạng khuôn mặt so sánh khuôn mặt từ máy ảnh với cơ sở dữ liệu ảnh chụp hoặc giấy phép lái xe; Các trường hợp bị bắt giữ trái pháp luật được ghi nhận, ảnh hưởng không tương xứng đến những người có làn da sẫm màu hơn, đã khiến một số thành phố của Hoa Kỳ cấm hoặc hạn chế việc này. Các hệ thống cảnh sát dự đoán dự báo nơi tội phạm có thể xảy ra hoặc ai có thể liên quan, tuy nhiên các nhà phê bình cho rằng chúng mã hóa và khuếch đại thành kiến lịch sử vì chúng học được từ dữ liệu bắt giữ vốn đã phản ánh chính sách quá mức. Đầu đọc biển số xe tự động ghi lại chuyển động của xe hàng loạt và các hệ thống phát hiện tiếng súng bằng âm thanh như ShotSpotter xác định tiếng súng tam giác, mặc dù các đánh giá độc lập đã đặt câu hỏi về độ chính xác của chúng. AI cũng tăng tốc độ điều tra kỹ thuật số, biên tập lại cảnh quay từ camera gắn trên người và ghi lại các báo cáo, làm dấy lên những cuộc tranh luận đang diễn ra về tính minh bạch, giám sát và quy trình pháp lý.
Hiểu biết kỹ thuật
Nhận dạng khuôn mặt chuyển đổi khuôn mặt thành nhúng 'dấu khuôn mặt' bằng số bằng cách sử dụng mạng lưới thần kinh sâu, sau đó đo lường mức độ tương tự với các nhúng được lưu trữ; một ngưỡng xác định sự trùng khớp, do đó, các ngưỡng do nhà cung cấp đặt ra sẽ đánh đổi các kết quả dương tính giả và sai sót. Cảnh sát dự đoán thường sử dụng mô hình hồi quy hoặc tính điểm rủi ro trên dữ liệu bắt giữ và tội phạm trong lịch sử. Vì dữ liệu huấn luyện phản ánh các mô hình thực thi trong quá khứ nên đầu vào sai lệch có thể tạo ra các dự đoán sai lệch và tự củng cố.
Tác động chiến lược
Bối cảnh và quy tắc
Bối cảnh của ngành quyết định liệu các ý tưởng AI có tồn tại được khi tiếp xúc với thực tế hay không.
Kiểm soát chất lượng
Các ràng buộc về miền ảnh hưởng đến tỷ lệ lỗi có thể chấp nhận được và các mô hình giám sát.
Xây dựng lựa chọn
Triển khai thành công sẽ điều chỉnh năng lực kỹ thuật phù hợp với quy trình làm việc tuyến đầu.
Tương lai của AI trong thực thi pháp luật và trị an
Mong đợi các quy định tăng cường, với nhiều khu vực pháp lý bắt buộc kiểm tra, ngưỡng chính xác, đánh giá của con người và cấm đối với một số mục đích sử dụng nhất định như giám sát khuôn mặt theo thời gian thực. Đạo luật AI của EU phân loại nhiều mục đích sử dụng của chính sách là có rủi ro cao hoặc bị cấm. Áp lực về tính minh bạch, kiểm tra độc lập và trách nhiệm giải trình rõ ràng sẽ tăng lên, trong khi các tòa án phải vật lộn với việc làm thế nào để bằng chứng có nguồn gốc từ AI phù hợp với các biện pháp bảo vệ hiến pháp. Sự căng thẳng chủ yếu giữa lợi ích an toàn công cộng và tổn hại đến quyền tự do dân sự sẽ quyết định việc áp dụng.
Triển khai trong thế giới thực
Nhận dạng khuôn mặt phù hợp với hình ảnh giám sát dựa trên cơ sở dữ liệu ảnh chụp (và các trường hợp bắt giữ sai trái đã dẫn đến lệnh cấm của thành phố)
Đầu đọc biển số xe tự động ghi lại vị trí xe để theo dõi xe bị đánh cắp hoặc nghi phạm
Các hệ thống phát hiện tiếng súng bằng âm thanh như ShotSpotter cảnh báo cảnh sát về tiếng súng nghi ngờ
Công cụ AI tự động biên tập lại khuôn mặt trong cảnh quay từ camera cơ thể và ghi lại báo cáo của sĩ quan
Rủi ro & lan can
Các yêu cầu pháp lý có thể vô hiệu hóa các nguyên mẫu mạnh mẽ.
Dữ liệu lịch sử có thể mã hóa thành kiến gây tổn hại cho các cộng đồng cụ thể.
Các hệ thống cũ có thể tạo ra các nút thắt cổ chai trong tích hợp và chi phí tiềm ẩn.
Lộ trình thực hiện
Thu hút các chuyên gia trong lĩnh vực từ việc xác định vấn đề đến đánh giá.
Thiết kế các đường dẫn kiểm tra và tài liệu trước khi ra mắt.
Xác nhận sớm các nghĩa vụ tuân thủ và an toàn.
Triển khai theo từng giai đoạn với tiêu chí dừng và khôi phục rõ ràng.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Law Enforcement and Policing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
AI & Luật
Câu hỏi thường gặp
What is AI in Law Enforcement and Policing?
AI trong hoạt động kiểm soát bao gồm nhận dạng khuôn mặt, dự đoán chính sách, đọc biển số xe và phát hiện tiếng súng. Điều này quan trọng vì những công cụ này định hình sự an toàn công cộng và quyền tự do dân sự, đồng thời chúng tiềm ẩn những rủi ro nghiêm trọng về thành kiến và sai sót.
Tại sao các nhà phê bình nói rằng chính sách dự đoán có thể khuếch đại sự thiên vị?
Các mô hình được đào tạo dựa trên dữ liệu thực thi mang tính thiên vị trong lịch sử có thể tái tạo và củng cố các mô hình đó.
Hệ thống nhận dạng khuôn mặt tạo ra gì từ hình ảnh khuôn mặt?
Hệ thống mã hóa khuôn mặt dưới dạng vectơ nhúng và so sánh nó với các phần nhúng được lưu trữ bằng ngưỡng tương tự.
ShotSpotter là một ví dụ về loại hệ thống nào?
ShotSpotter sử dụng micrô để phát hiện và sắp xếp tam giác tiếng súng nghi ngờ, mặc dù độ chính xác của nó vẫn còn bị nghi ngờ.
Đạo luật AI của EU xử lý nhiều trường hợp sử dụng AI để thực thi pháp luật như thế nào?
Đạo luật AI của EU phân loại nhiều ứng dụng trị an, như giám sát sinh trắc học theo thời gian thực, là có nguy cơ cao hoặc bị cấm.