AI trong công tác xã hội và phúc lợi trẻ em
Các cơ quan phúc lợi trẻ em đang sử dụng AI dự đoán để giúp sàng lọc các báo cáo lạm dụng và bỏ bê, trong khi nhân viên xã hội sử dụng các công cụ AI để cắt giảm giấy tờ và rủi ro bề mặt.
Tổng quan
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
Lặn sâu
Khi một cuộc gọi đến đường dây nóng báo cáo có thể có hành vi ngược đãi trẻ em, người sàng lọc phải quyết định có nên điều tra hay không. Các công cụ như Công cụ sàng lọc gia đình Allegheny ở Pennsylvania tính toán điểm rủi ro từ dữ liệu hành chính - lịch sử phúc lợi trước đây, phúc lợi công cộng, hồ sơ tội phạm và sức khỏe hành vi - để hỗ trợ quyết định đó. Những người ủng hộ nói rằng nó làm cho việc sàng lọc trở nên nhất quán hơn; các nhà phê bình, bao gồm cả các nhà báo và ACLU, cảnh báo nó có thể mã hóa tình trạng nghèo đói và thành kiến chủng tộc vì các gia đình nghèo và da đen chiếm tỷ lệ quá cao trong chính các bộ dữ liệu của chính phủ mà nó học được từ đó. Bộ Tư pháp Hoa Kỳ được cho là đã kiểm tra xem liệu những công cụ như vậy có phân biệt đối xử với người khuyết tật hay không. Ngoài việc chấm điểm rủi ro, AI tổng quát giờ đây còn giúp nhân viên xã hội soạn thảo ghi chú trường hợp, tóm tắt hồ sơ vụ án dài và dịch tài liệu, giải phóng thời gian để liên hệ trực tiếp với khách hàng.
Hiểu biết kỹ thuật
Hầu hết các mô hình rủi ro phúc lợi trẻ em là các bộ phân loại có giám sát được đào tạo để dự đoán kết quả, chẳng hạn như tái giới thiệu trong tương lai hoặc chuyển đi xa nhà, sử dụng hồ sơ trường hợp lịch sử làm nhãn. Điều nguy hiểm là sai lệch ủy quyền: mô hình học hỏi từ các quyết định của cơ quan trong quá khứ, vì vậy nếu những quyết định đó bị sai lệch thì điểm số sẽ tái tạo chúng. Bởi vì có nhiều dữ liệu của chính phủ hơn về các gia đình có thu nhập thấp, tần suất tiếp xúc trước đó trở thành một đặc điểm tương quan với tình trạng nghèo đói hơn là rủi ro thực tế, làm tăng điểm số cho các cộng đồng đã được giám sát.
Tác động chiến lược
Bối cảnh và quy tắc
Bối cảnh của ngành quyết định liệu các ý tưởng AI có tồn tại được khi tiếp xúc với thực tế hay không.
Kiểm soát chất lượng
Các ràng buộc về miền ảnh hưởng đến tỷ lệ lỗi có thể chấp nhận được và các mô hình giám sát.
Xây dựng lựa chọn
Triển khai thành công sẽ điều chỉnh năng lực kỹ thuật phù hợp với quy trình làm việc tuyến đầu.
Tương lai của AI trong công tác xã hội và phúc lợi trẻ em
Lĩnh vực này đang hướng tới 'hỗ trợ quyết định chứ không phải đưa ra quyết định' - luôn cập nhật thông tin cho con người, xuất bản các cuộc kiểm toán mô hình và trao cho các gia đình quyền tranh chấp điểm số. Mong đợi các cuộc kiểm toán thiên vị bên ngoài, giám sát phân biệt đối xử với người khuyết tật và các quy tắc rõ ràng hơn rằng điểm rủi ro không bao giờ có thể là cơ sở duy nhất để loại bỏ một đứa trẻ. Các ứng dụng có rủi ro thấp hơn, ít gây tranh cãi hơn - tự động hóa thủ tục giấy tờ, tóm tắt hồ sơ và dịch thuật - có thể sẽ mở rộng nhanh hơn so với việc chấm điểm rủi ro dự đoán.
Triển khai trong thế giới thực
Công cụ sàng lọc gia đình Allegheny tạo ra điểm rủi ro để giúp những người sàng lọc đường dây nóng quyết định xem có nên điều tra một trường hợp bị ngược đãi hay không
AI sáng tạo soạn thảo và tóm tắt các ghi chú trường hợp để nhân viên phụ trách dành ít thời gian hơn cho việc ghi chép và dành nhiều thời gian hơn cho gia đình
Các công cụ dịch thuật ngôn ngữ tự nhiên giúp nhân viên xã hội giao tiếp với khách hàng không nói tiếng Anh và dịch tài liệu vụ việc
Phân tích dự đoán cảnh báo thanh thiếu niên có nguy cơ già đi cao hơn do không được chăm sóc nuôi dưỡng mà không có vị trí cố định để các cơ quan có thể ưu tiên các dịch vụ
Rủi ro & lan can
Các yêu cầu pháp lý có thể vô hiệu hóa các nguyên mẫu mạnh mẽ.
Dữ liệu lịch sử có thể mã hóa thành kiến gây tổn hại cho các cộng đồng cụ thể.
Các hệ thống cũ có thể tạo ra các nút thắt cổ chai trong tích hợp và chi phí tiềm ẩn.
Lộ trình thực hiện
Thu hút các chuyên gia trong lĩnh vực từ việc xác định vấn đề đến đánh giá.
Thiết kế các đường dẫn kiểm tra và tài liệu trước khi ra mắt.
Xác nhận sớm các nghĩa vụ tuân thủ và an toàn.
Triển khai theo từng giai đoạn với tiêu chí dừng và khôi phục rõ ràng.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
AI trong đường sắt
Câu hỏi thường gặp
What is AI in Social Work and Child Welfare?
Các cơ quan phúc lợi trẻ em đang sử dụng AI dự đoán để giúp sàng lọc các báo cáo lạm dụng và bỏ bê, trong khi nhân viên xã hội sử dụng các công cụ AI để cắt giảm giấy tờ và rủi ro bề mặt. Những hệ thống đặt cược cao này đặt ra một số câu hỏi sắc bén nhất về tính công bằng và trách nhiệm giải trình trong tất cả AI.
Công cụ sàng lọc gia đình Allegheny tạo ra những gì?
Công cụ này tạo ra điểm rủi ro từ dữ liệu hành chính để hỗ trợ người sàng lọc con người quyết định liệu báo cáo ngược đãi có cần điều tra hay không - đó là hỗ trợ quyết định chứ không phải là quyết định cuối cùng.
'Thành kiến ủy quyền' trong các mô hình rủi ro phúc lợi trẻ em là gì?
Sai lệch ủy nhiệm xảy ra khi một đặc điểm có thể đo lường được (như tần suất liên hệ với cơ quan trước đó) tương quan với tình trạng nghèo đói hoặc chủng tộc hơn là kết quả thực tế mà mô hình dự đoán.
Tại sao các gia đình nghèo và da đen có thể nhận được điểm rủi ro tăng cao trong các hệ thống này?
Bởi vì có nhiều dữ liệu hành chính hơn về các cộng đồng có thu nhập thấp và được giám sát quá mức, nên các tính năng liên hệ trước sẽ làm tăng điểm của họ ngay cả khi rủi ro thực tế không cao hơn.
Loại mô hình học máy nào thường được sử dụng để chấm điểm rủi ro phúc lợi trẻ em?
Những công cụ này thường là các công cụ phân loại có giám sát được đào tạo để dự đoán các kết quả như giới thiệu lại hoặc sắp xếp, sử dụng các bản ghi trường hợp trong quá khứ làm dữ liệu đào tạo được gắn nhãn.
Việc sử dụng AI có rủi ro thấp hơn trong công tác xã hội đang được mở rộng nhanh chóng?
AI sáng tạo dành cho thủ tục giấy tờ, tóm tắt hồ sơ vụ án và dịch thuật ít gây tranh cãi hơn so với việc chấm điểm rủi ro dự đoán và đang mở rộng để có thời gian rảnh rỗi cho nhân viên phụ trách.