Tiếp theoHướng dẫn tiếp theo
Vụ bê bối về thuật toán lợi ích chăm sóc trẻ em của Hà Lan
xã hội
HƯỚNG DẪN ngành
AI trong quản lý phúc lợi của chính phủ đề cập đến hệ thống thuật toán và tự động mà các cơ quan sử dụng để kiểm tra tính đủ điều kiện, tính toán các khoản thanh toán và cảnh báo các khoản thanh toán vượt mức hoặc gian lận có thể xảy ra trong các chương trình như phúc lợi, hỗ trợ thất nghiệp và khuyết tật.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Điều này quan trọng vì những quyết định này ảnh hưởng đến thu nhập và nhà ở của người dân, và một số thất bại nổi tiếng đã cho thấy rằng những sai sót trên quy mô lớn có thể gây tổn hại cho hàng trăm nghìn người.
Các cơ quan phúc lợi xử lý khối lượng công việc khổng lồ với số lượng nhân viên hạn chế, vì vậy tự động hóa rất hấp dẫn. Các hệ thống bao gồm từ các công cụ quy tắc áp dụng các công thức đủ điều kiện, đến các chương trình so khớp dữ liệu để so sánh hồ sơ giữa các cơ quan, cho đến các mô hình máy học chấm điểm các trường hợp có rủi ro gian lận. Robodebt của Úc là một trong những thất bại được nhắc đến nhiều nhất và nó không phải là AI phức tạp. Từ năm 2016, chương trình này khớp thu nhập hàng năm của cơ quan thuế với hồ sơ phúc lợi hai tuần một lần và tính trung bình số liệu hàng năm đều trong hai tuần. Những người có thu nhập không thường xuyên, chẳng hạn như người lao động bình thường, dường như được trả lương quá cao và các thông báo nợ tự động được gửi đi và người nhận phải từ chối chúng. Chính phủ sau đó thừa nhận rằng chỉ tính trung bình không phải là cơ sở hợp pháp cho các khoản nợ, đã giải quyết một vụ kiện tập thể và Ủy ban Hoàng gia báo cáo vào năm 2023 đã lên án mạnh mẽ kế hoạch này. Ở Hà Lan, vụ bê bối về trợ cấp chăm sóc trẻ em đã chứng kiến cơ quan thuế coi hàng chục nghìn phụ huynh là những kẻ lừa đảo và yêu cầu những khoản hoàn trả lớn. Mô hình phân loại rủi ro sử dụng quốc tịch làm yếu tố rủi ro là một phần của vấn đề, bên cạnh các quy định khắc nghiệt được ăn cả ngã về không. Nội các từ chức vào tháng 1 năm 2021. Ngoài ra, vào năm 2020, một tòa án Hà Lan đã tạm dừng SyRI, một hệ thống liên kết dữ liệu gian lận phúc lợi, vì lý do quyền riêng tư và nhân quyền. Tại Hoa Kỳ, hệ thống MiDAS của Michigan đã đưa ra các phát hiện gian lận tự động mà đánh giá của tiểu bang cho thấy hầu hết là sai sót và Arkansas phải đối mặt với kiện tụng sau khi một thuật toán cắt giảm số giờ chăm sóc tại nhà cho những người nhận Medicaid khuyết tật. Bài học lặp lại: các khoản nợ tự động đảo ngược gánh nặng chứng minh; các mô hình lừa đảo có thể mã hóa các proxy cho dân tộc hoặc tình trạng nghèo đói; và quy mô biến tỷ lệ lỗi nhỏ thành tác hại lớn. Các biện pháp bảo vệ bao gồm đánh giá của con người trước các quyết định bất lợi, thông báo giải thích lý do, kháng nghị có thể tiếp cận, kiểm tra thiên vị và tiết lộ công khai các hệ thống đang được sử dụng. Đạo luật AI của EU phân loại AI được các cơ quan công quyền sử dụng để đánh giá khả năng đủ điều kiện nhận các lợi ích công cộng thiết yếu là có rủi ro cao.
Chương trình Robodebt của Úc tính thu nhập trung bình hàng năm của cơ quan thuế trong hai tuần và tự động đưa ra thông báo nợ cho những người nhận phúc lợi, nhiều người trong số họ không nợ gì cả.
Việc tính điểm rủi ro về phúc lợi chăm sóc trẻ em của cơ quan thuế Hà Lan, sử dụng quốc tịch làm yếu tố rủi ro, đã góp phần khiến hàng chục nghìn gia đình bị đối xử sai trái như những kẻ lừa đảo.
Hệ thống thất nghiệp MiDAS của Michigan tự động đưa ra các phát hiện gian lận với các mức phạt nặng và một cuộc đánh giá của tiểu bang cho thấy hầu hết các quyết định mà hệ thống này kiểm tra đều sai.
Cơ quan phúc lợi chỉ sử dụng một mô hình để quyết định xem nhân viên phụ trách hồ sơ nào sẽ xem xét trước mà không tự động từ chối, đồng thời công bố các tiêu chí và tỷ lệ lỗi của mình.
Các chính phủ sẽ tiếp tục tự động hóa công việc phúc lợi vì tình trạng thiếu hụt nhân viên và khối lượng công việc là có thật, đồng thời AI tổng quát đang được thử nghiệm cho các nhiệm vụ như tóm tắt hồ sơ vụ việc và trả lời các câu hỏi của người nộp đơn. Các bài học về Robodebt và vụ bê bối ở Hà Lan đã thúc đẩy một số khu vực pháp lý hướng tới việc đăng ký thuật toán, đánh giá tác động và yêu cầu đánh giá con người mạnh mẽ hơn, đồng thời Đạo luật AI của EU bổ sung thêm nghĩa vụ đối với các hoạt động sử dụng công cộng có rủi ro cao. Liệu các biện pháp bảo vệ này có hoạt động trên thực tế hay không phụ thuộc vào nguồn tài trợ cho các nhân viên phụ trách và kháng cáo, kiểm toán độc lập và liệu những người bị ảnh hưởng có thể thực sự nhìn thấy và phản đối dữ liệu được sử dụng về họ hay không.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
AI trong quản lý phúc lợi của chính phủ đề cập đến hệ thống thuật toán và tự động mà các cơ quan sử dụng để kiểm tra tính đủ điều kiện, tính toán các khoản thanh toán và cảnh báo các khoản thanh toán vượt mức hoặc gian lận có thể xảy ra trong các chương trình như phúc lợi, hỗ trợ thất nghiệp và khuyết tật. Điều này quan trọng vì những quyết định này ảnh hưởng đến thu nhập và nhà ở của người dân, và một số thất bại nổi tiếng đã cho thấy rằng những sai sót trên quy mô lớn có thể gây tổn hại cho hàng trăm nghìn người.
Thu nhập trung bình hàng năm trong hai tuần khiến những người có thu nhập không thường xuyên có vẻ như được trả lương quá cao trong khi thực tế thực tế không phải vậy.
Robodebt cho thấy rằng các quy tắc tự động đơn giản có thể gây ra tổn hại hàng loạt nếu không có bất kỳ hoạt động học máy nào.
Việc sử dụng quốc tịch làm yếu tố rủi ro đã góp phần gây ra sự phân biệt đối xử trong vụ bê bối về quyền lợi chăm sóc trẻ em.
Nội các từ chức vào tháng 1 năm 2021 sau khi quy mô của các cáo buộc gian lận sai trái trở nên rõ ràng.
Một tòa án Hà Lan đã ngăn chặn SyRI, một hệ thống liên kết dữ liệu lừa đảo phúc lợi vì cho rằng nó vi phạm quyền riêng tư.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Vụ bê bối về thuật toán lợi ích chăm sóc trẻ em của Hà Lan
xã hội