Tiếp theoHướng dẫn tiếp theo
GDPR và ra quyết định tự động
xã hội
HƯỚNG DẪN xã hội
Quy trình hợp lý cho các quyết định tự động của chính phủ đặt câu hỏi liệu một người bị ảnh hưởng bởi một quyết định công khai có nhận được các thủ tục yêu cầu bởi luật áp dụng hay không.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Tùy thuộc vào bối cảnh, điều đó có thể bao gồm thông báo rõ ràng, tiếp cận các lý do và bằng chứng, cơ hội có ý nghĩa để phản hồi và xem xét bởi một quan chức có thể sửa lỗi; đầu ra tự động không thay thế những nghĩa vụ đó.
Các cơ quan chính phủ sử dụng phần mềm để sắp xếp các ứng dụng, đánh dấu những điểm không nhất quán, ưu tiên kiểm tra, ước tính rủi ro và hỗ trợ các quyết định về lợi ích hoặc cấp phép. Tự động hóa có thể làm cho quy trình diễn ra nhanh hơn nhưng một lỗi có thể ảnh hưởng đến thu nhập, nhà ở, chăm sóc sức khỏe, nhập cư hoặc quyền tự do. Thủ tục tố tụng hợp pháp là một khái niệm pháp lý về thủ tục khi hành động của chính phủ ảnh hưởng đến lợi ích được bảo vệ. Nó không yêu cầu các bước giống nhau trong mọi cài đặt và sự hiện diện của thuật toán không quyết định quá trình nào đến hạn. Quyết định của Tòa án Tối cao trong vụ Mathews kiện Eldridge mô tả cách tiếp cận cân bằng theo bối cảnh cụ thể: xem xét lợi ích tư nhân bị ảnh hưởng, nguy cơ tước đoạt sai lầm theo các thủ tục hiện hành và giá trị của các biện pháp bảo vệ bổ sung cũng như lợi ích của chính phủ, bao gồm cả gánh nặng hành chính. Các trường hợp khác đề cập đến các chương trình và giai đoạn cụ thể. Do đó, một hệ thống tự động phải được đánh giá theo thẩm quyền pháp lý, loại quyết định và khả năng xem xét sẵn có—không phải bằng một danh sách kiểm tra chung tuyên bố rằng mọi người luôn có quyền điều trần như nhau. Các biện pháp bảo vệ thực tế thường bao gồm thông báo xác định hành động và ngày có hiệu lực, giải thích rõ ràng về các sự kiện và quy tắc quan trọng, quyền truy cập vào hồ sơ cần thiết để phản hồi và lộ trình khiếu nại. Người đánh giá phải có khả năng kiểm tra dữ liệu nguồn, xem xét bằng chứng trái ngược và thay đổi kết quả sai. Đánh giá danh nghĩa của con người sẽ yếu nếu người đó chỉ nhìn thấy điểm hoặc không thể rời khỏi hệ thống. Cơ quan nên lưu giữ các phiên bản mô hình, hồ sơ đầu vào, ghi đè và giải thích để người đánh giá sau này có thể đưa ra quyết định. Các cơ quan cũng nên kiểm tra xem liệu mọi người có thể sử dụng quy trình này hay không. Một thông báo có thể chi tiết về mặt pháp lý nhưng lại gây nhầm lẫn; người khuyết tật hoặc rào cản ngôn ngữ có thể không thể tiếp cận được thời hạn kháng cáo. Tỷ lệ sai sót cần được kiểm tra theo loại quyết định và nhóm bị ảnh hưởng nếu hợp pháp và phù hợp về mặt thống kê. Bộ phận mua sắm phải cung cấp quyền truy cập vào nhật ký, kết quả kiểm tra và cập nhật. Khi tòa án hoặc đạo luật đặt ra các thủ tục cụ thể, những yêu cầu đó sẽ có hiệu lực.
Một cơ quan sẽ gửi một thông báo cụ thể giải thích hồ sơ nào đã gây ra việc từ chối phúc lợi và cách gửi bản đính chính hoặc khiếu nại.
Viên chức điều trần có thể kiểm tra cả khuyến nghị thuật toán và bằng chứng nguồn thay vì bắt buộc phải chấp nhận điểm.
Nhóm mua sắm yêu cầu nhà cung cấp lưu giữ nhật ký quyết định và giải thích cách một trường hợp dẫn đến kết quả bất lợi.
Một cơ quan kiểm tra xem những người sử dụng trình đọc màn hình hoặc thông báo bằng tiếng Anh hạn chế có thể hiểu và phản đối các quyết định tự động hay không.
Các cơ quan công sẽ tiếp tục áp dụng các công cụ tự động khi họ quản lý các chương trình có khối lượng lớn. Các yêu cầu pháp lý sẽ phát triển thông qua các đạo luật, quy tắc của cơ quan và quyết định của tòa án, với các thủ tục khác nhau tùy theo bối cảnh. Khả năng giải thích tốt hơn và nhật ký kiểm tra có thể giúp ích cho người đánh giá, nhưng việc tiết lộ và truy cập cũng phụ thuộc vào luật pháp và sự sắp xếp của nhà cung cấp. Các hệ thống trong tương lai nên xây dựng các thông báo dễ tiếp cận, thẩm quyền xem xét và hồ sơ về cách đạt được kết quả. Các cơ quan nên đánh giá lại quy trình bất cứ khi nào mô hình, ngưỡng, nguồn dữ liệu hoặc hậu quả của quyết định thay đổi. Các nhóm nên xem lại quy trình hợp pháp đối với các quyết định tự động của chính phủ khi các quy tắc và công cụ quản lý thay đổi.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Quy trình pháp lý đối với các quyết định tự động của chính phủ hỏi liệu một người bị ảnh hưởng bởi một quyết định công có nhận được các thủ tục theo yêu cầu của luật hiện hành hay không. Tùy thuộc vào bối cảnh, điều đó có thể bao gồm thông báo rõ ràng, tiếp cận các lý do và bằng chứng, cơ hội có ý nghĩa để phản hồi và xem xét bởi một quan chức có thể sửa lỗi; đầu ra tự động không thay thế những nghĩa vụ đó.
Mathews cân bằng giữa lợi ích bị ảnh hưởng, rủi ro sai sót và các biện pháp bảo vệ cũng như gánh nặng của chính phủ.
Một người cần hiểu cơ sở của quyết định và cách phản ứng.
Một người phải có thẩm quyền và thông tin để sửa lỗi.
Dấu vết quyết định cho phép người đánh giá sau xem kết quả được tạo ra như thế nào.
Một thông báo phải truyền đạt những lý do có thể sử dụng được cho những người nhận được nó.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
GDPR và ra quyết định tự động
xã hội