HƯỚNG DẪN xã hội

Quy trình pháp lý cho các quyết định tự động của chính phủ

Quy trình hợp lý cho các quyết định tự động của chính phủ đặt câu hỏi liệu một người bị ảnh hưởng bởi một quyết định công khai có nhận được các thủ tục yêu cầu bởi luật áp dụng hay không.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của quy trình pháp lý cho các quyết định tự động của chính phủ
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Tùy thuộc vào bối cảnh, điều đó có thể bao gồm thông báo rõ ràng, tiếp cận các lý do và bằng chứng, cơ hội có ý nghĩa để phản hồi và xem xét bởi một quan chức có thể sửa lỗi; đầu ra tự động không thay thế những nghĩa vụ đó.

Lặn sâu

Các cơ quan chính phủ sử dụng phần mềm để sắp xếp các ứng dụng, đánh dấu những điểm không nhất quán, ưu tiên kiểm tra, ước tính rủi ro và hỗ trợ các quyết định về lợi ích hoặc cấp phép. Tự động hóa có thể làm cho quy trình diễn ra nhanh hơn nhưng một lỗi có thể ảnh hưởng đến thu nhập, nhà ở, chăm sóc sức khỏe, nhập cư hoặc quyền tự do. Thủ tục tố tụng hợp pháp là một khái niệm pháp lý về thủ tục khi hành động của chính phủ ảnh hưởng đến lợi ích được bảo vệ. Nó không yêu cầu các bước giống nhau trong mọi cài đặt và sự hiện diện của thuật toán không quyết định quá trình nào đến hạn. Quyết định của Tòa án Tối cao trong vụ Mathews kiện Eldridge mô tả cách tiếp cận cân bằng theo bối cảnh cụ thể: xem xét lợi ích tư nhân bị ảnh hưởng, nguy cơ tước đoạt sai lầm theo các thủ tục hiện hành và giá trị của các biện pháp bảo vệ bổ sung cũng như lợi ích của chính phủ, bao gồm cả gánh nặng hành chính. Các trường hợp khác đề cập đến các chương trình và giai đoạn cụ thể. Do đó, một hệ thống tự động phải được đánh giá theo thẩm quyền pháp lý, loại quyết định và khả năng xem xét sẵn có—không phải bằng một danh sách kiểm tra chung tuyên bố rằng mọi người luôn có quyền điều trần như nhau. Các biện pháp bảo vệ thực tế thường bao gồm thông báo xác định hành động và ngày có hiệu lực, giải thích rõ ràng về các sự kiện và quy tắc quan trọng, quyền truy cập vào hồ sơ cần thiết để phản hồi và lộ trình khiếu nại. Người đánh giá phải có khả năng kiểm tra dữ liệu nguồn, xem xét bằng chứng trái ngược và thay đổi kết quả sai. Đánh giá danh nghĩa của con người sẽ yếu nếu người đó chỉ nhìn thấy điểm hoặc không thể rời khỏi hệ thống. Cơ quan nên lưu giữ các phiên bản mô hình, hồ sơ đầu vào, ghi đè và giải thích để người đánh giá sau này có thể đưa ra quyết định. Các cơ quan cũng nên kiểm tra xem liệu mọi người có thể sử dụng quy trình này hay không. Một thông báo có thể chi tiết về mặt pháp lý nhưng lại gây nhầm lẫn; người khuyết tật hoặc rào cản ngôn ngữ có thể không thể tiếp cận được thời hạn kháng cáo. Tỷ lệ sai sót cần được kiểm tra theo loại quyết định và nhóm bị ảnh hưởng nếu hợp pháp và phù hợp về mặt thống kê. Bộ phận mua sắm phải cung cấp quyền truy cập vào nhật ký, kết quả kiểm tra và cập nhật. Khi tòa án hoặc đạo luật đặt ra các thủ tục cụ thể, những yêu cầu đó sẽ có hiệu lực.

Triển khai trong thế giới thực

Một cơ quan sẽ gửi một thông báo cụ thể giải thích hồ sơ nào đã gây ra việc từ chối phúc lợi và cách gửi bản đính chính hoặc khiếu nại.

Viên chức điều trần có thể kiểm tra cả khuyến nghị thuật toán và bằng chứng nguồn thay vì bắt buộc phải chấp nhận điểm.

Nhóm mua sắm yêu cầu nhà cung cấp lưu giữ nhật ký quyết định và giải thích cách một trường hợp dẫn đến kết quả bất lợi.

Một cơ quan kiểm tra xem những người sử dụng trình đọc màn hình hoặc thông báo bằng tiếng Anh hạn chế có thể hiểu và phản đối các quyết định tự động hay không.

Tương lai của quy trình pháp lý cho các quyết định tự động của chính phủ

Các cơ quan công sẽ tiếp tục áp dụng các công cụ tự động khi họ quản lý các chương trình có khối lượng lớn. Các yêu cầu pháp lý sẽ phát triển thông qua các đạo luật, quy tắc của cơ quan và quyết định của tòa án, với các thủ tục khác nhau tùy theo bối cảnh. Khả năng giải thích tốt hơn và nhật ký kiểm tra có thể giúp ích cho người đánh giá, nhưng việc tiết lộ và truy cập cũng phụ thuộc vào luật pháp và sự sắp xếp của nhà cung cấp. Các hệ thống trong tương lai nên xây dựng các thông báo dễ tiếp cận, thẩm quyền xem xét và hồ sơ về cách đạt được kết quả. Các cơ quan nên đánh giá lại quy trình bất cứ khi nào mô hình, ngưỡng, nguồn dữ liệu hoặc hậu quả của quyết định thay đổi. Các nhóm nên xem lại quy trình hợp pháp đối với các quyết định tự động của chính phủ khi các quy tắc và công cụ quản lý thay đổi.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra Quy trình giải quyết các quyết định tự động của chính phủ

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Thủ tục pháp lý cho các quyết định tự động của chính phủ là gì?

Quy trình pháp lý đối với các quyết định tự động của chính phủ hỏi liệu một người bị ảnh hưởng bởi một quyết định công có nhận được các thủ tục theo yêu cầu của luật hiện hành hay không. Tùy thuộc vào bối cảnh, điều đó có thể bao gồm thông báo rõ ràng, tiếp cận các lý do và bằng chứng, cơ hội có ý nghĩa để phản hồi và xem xét bởi một quan chức có thể sửa lỗi; đầu ra tự động không thay thế những nghĩa vụ đó.

Theo vụ Mathews kiện Eldridge, tập hợp các yếu tố nào hướng dẫn việc phân tích thủ tục tố tụng hợp pháp?

Mathews cân bằng giữa lợi ích bị ảnh hưởng, rủi ro sai sót và các biện pháp bảo vệ cũng như gánh nặng của chính phủ.

Thông báo của cơ quan chỉ cho biết “điểm thuật toán quá thấp”. Cái gì còn thiếu?

Một người cần hiểu cơ sở của quyết định và cách phản ứng.

Điều gì làm cho đánh giá của con người có ý nghĩa?

Một người phải có thẩm quyền và thông tin để sửa lỗi.

Nhật ký nào giúp xây dựng lại việc từ chối tự động?

Dấu vết quyết định cho phép người đánh giá sau xem kết quả được tạo ra như thế nào.

Biện pháp nào kiểm tra xem mọi người có thể hiểu được thông báo bất lợi hay không?

Một thông báo phải truyền đạt những lý do có thể sử dụng được cho những người nhận được nó.