HƯỚNG DẪN xã hội

Cảnh sát dự đoán và vòng lặp phản hồi

Cảnh sát dự đoán sử dụng mô hình dữ liệu để dự báo nơi có thể xảy ra sự cố hoặc những người có thể liên quan, sau đó sử dụng dự báo để hướng dẫn cảnh sát chú ý hoặc can thiệp.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của vòng lặp phản hồi và chính sách dự đoán
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Bởi vì các sự cố được ghi lại phụ thuộc một phần vào nơi cảnh sát tuần tra và những gì họ ghi lại, việc triển khai có thể thay đổi dữ liệu trong tương lai. Phản hồi này có thể củng cố các mô hình đầu vào mà không chứng minh được rằng tỷ lệ tội phạm cơ bản cao hơn.

Lặn sâu

Hệ thống kiểm soát dự đoán dự đoán địa điểm hoặc con người để cảnh sát chú ý. Các công cụ dựa trên địa điểm sử dụng dữ liệu sự cố đã ghi lại để làm nổi bật các khu vực trên bản đồ để tuần tra; các công cụ dựa trên con người xếp hạng mọi người theo mức độ rủi ro ước tính khi tham gia vào một sự kiện. Dự báo không phải là phát hiện một tội ác đã xảy ra hoặc một người nào đó là nguy hiểm. Nó định hình một phản ứng mang tính thể chế và phản ứng đó trở thành một phần của môi trường được đo lường. Lum và Isaac năm 2016 “Dự đoán và phục vụ?” phân tích đã áp dụng cách tiếp cận kiểu PredPol đối với dữ liệu về các vụ bắt giữ ma túy ở Oakland và so sánh các dự đoán thu được từ cuộc tuần tra với các ước tính của khảo sát y tế công cộng về việc sử dụng ma túy. Bởi vì việc bắt giữ phản ánh việc thực thi cũng như hành vi phạm tội, việc sử dụng hồ sơ bắt giữ làm đại diện cho tội phạm có thể hướng việc tuần tra tới những nơi đã nhận được nhiều sự chú ý của cảnh sát hơn. Sau đó, các điểm dừng và bắt giữ mới có thể thêm các quan sát vào cùng một luồng dữ liệu, tạo ra một vòng phản hồi. Nghiên cứu minh họa một cơ chế và một trường hợp cụ thể chứ không phải bằng chứng cho thấy mọi hệ thống dự đoán đều có tác dụng như nhau. Danh sách Chủ đề Chiến lược (SSL) của Chicago là một trường hợp. Trang dữ liệu lịch sử của Thành phố Chicago cho biết chương trình đã kết thúc vào năm 2019 và mô tả điểm ước tính xác suất một cá nhân sẽ tham gia vào một vụ nổ súng với tư cách là nạn nhân hoặc kẻ phạm tội. Một đánh giá gần như thử nghiệm do NIJ tài trợ năm 2016 cho thấy những người trong danh sách ít nhiều có khả năng trở thành nạn nhân của vụ giết người hoặc xả súng so với nhóm so sánh; phân tích cấp thành phố đã hỗ trợ kết quả đó. Nhóm được liệt kê có nhiều khả năng bị bắt vì nổ súng hơn, và các tác giả đã thảo luận liệu các cảnh sát có sử dụng điểm số làm đầu mối điều tra hay không. Nghiên cứu liên quan đến một chương trình thí điểm, không phải mọi chương trình kiểm soát dự đoán. Việc đánh giá nên tách biệt các dự báo khỏi các chính sách hoạt động, ghi lại nơi các cuộc tuần tra được cử đi, so sánh với các lựa chọn thay thế và đo lường các kết quả không chỉ đơn giản là trình bày lại hoạt động của cảnh sát. Tác động đến cộng đồng, kết quả dương tính giả, phản hồi và biện pháp bảo vệ theo đúng thủ tục đều quan trọng. Một mô hình có thể ưu tiên sự chú ý, nhưng nó không thể biến dữ liệu được ghi lại thành thước đo khách quan về tội phạm thực sự mà không kiểm tra xem những hồ sơ đó được tạo ra như thế nào.

Triển khai trong thế giới thực

Một công cụ dựa trên địa điểm sẽ gắn cờ các ô bản đồ nhỏ bằng cách sử dụng các báo cáo sự cố gần đây và các sĩ quan sẽ chỉ đạo các cuộc tuần tra bổ sung đến các địa điểm đó.

Danh sách dựa trên cá nhân xếp hạng các cá nhân theo nguy cơ ước tính liên quan đến bạo lực với tư cách là nạn nhân hoặc nghi phạm, đặt ra câu hỏi về sự can thiệp và thủ tục pháp lý.

Các nhà nghiên cứu áp dụng phương pháp kiểu PredPol cho dữ liệu lịch sử về các vụ bắt giữ ma túy ở Oakland và chỉ ra cách thức các mô hình bắt giữ có thể hướng dự báo tới các khu vực lân cận đã được kiểm soát chặt chẽ.

Một thành phố xem xét chương trình dự đoán rủi ro của mình và nhận thấy các biện pháp can thiệp vào việc triển khai, chính sách và cộng đồng đã thay đổi cùng với mô hình, làm phức tạp thêm các tuyên bố về tác động.

Tương lai của vòng lặp phản hồi và chính sách dự đoán

Trước khi thảo luận về một trường hợp lịch sử của Chicago, hãy xác nhận rằng chương trình được trích dẫn không hoạt động và phân biệt nó với bất kỳ mô hình nào sau này. Các chương trình dự đoán mới có thể sử dụng dữ liệu, mục đích và khả năng giám sát khác nhau, vì vậy hãy đánh giá từng hoạt động triển khai theo thiết kế và kết quả riêng của nó. Bao gồm các cộng đồng bị ảnh hưởng khi thiết lập dữ liệu, thông báo, đánh giá và thực hành trách nhiệm giải trình. Kiểm tra thẩm quyền pháp lý, hồ sơ mua sắm và kết quả đánh giá bất cứ khi nào cơ quan đề xuất cách sử dụng dự đoán mới. Giữ thông tin thực tế về chương trình được phiên bản với mỗi đánh giá. Ghi ngày tháng cho mỗi lần xem xét và ghi lại những thay đổi đối với mỗi cơ quan.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra Chính sách dự đoán và Vòng phản hồi

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Vòng lặp phản hồi và chính sách dự đoán là gì?

Cảnh sát dự đoán sử dụng mô hình dữ liệu để dự báo nơi có thể xảy ra sự cố hoặc những người có thể liên quan, sau đó sử dụng dự báo để hướng dẫn cảnh sát chú ý hoặc can thiệp. Bởi vì các sự cố được ghi lại phụ thuộc một phần vào nơi cảnh sát tuần tra và những gì họ ghi lại, việc triển khai có thể thay đổi dữ liệu trong tương lai. Phản hồi này có thể củng cố các mô hình đầu vào mà không chứng minh được rằng tỷ lệ tội phạm cơ bản cao hơn.

Điều gì phân biệt chính sách dự đoán dựa trên địa điểm và dựa trên con người?

Công cụ dự báo dựa trên địa điểm dự đoán khu vực, trong khi công cụ dựa trên người ước tính rủi ro cho từng cá nhân.

Tại sao dữ liệu bắt giữ có thể là một proxy gây vấn đề cho tội phạm cơ bản?

Số lượng bắt giữ được ghi lại phụ thuộc một phần vào nơi và cách thức cảnh sát tuần tra và hành động.

Làm thế nào một vòng phản hồi có thể xuất hiện?

Mô hình có thể ảnh hưởng đến sự chú ý, điều này thay đổi các quan sát được sử dụng trong các mô hình sau này.

Chương trình Danh sách Chủ đề Chiến lược (Strategic Subject List) của Chicago có trạng thái gì trong bộ dữ liệu lịch sử công cộng?

Cổng dữ liệu của Chicago cho biết chương trình đã kết thúc vào năm 2019 và giữ lại bộ dữ liệu cho mục đích tham khảo lịch sử.

Đánh giá do NIJ tài trợ năm 2016 đã tìm ra điều gì về việc bị nạn trong số những người có danh sách SSL?

Đánh giá cho thấy không có khả năng cao hơn hoặc thấp hơn về việc bị giết người hoặc bị bắn trong nhóm người có danh sách so với nhóm so sánh.