AI dalam Pekerjaan Sosial dan Kesejahteraan Anak
Lembaga kesejahteraan anak menggunakan AI prediktif untuk membantu menyaring laporan pelecehan dan penelantaran, sementara pekerja sosial menggunakan alat AI untuk memotong dokumen dan memunculkan risiko.
Ikhtisar
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
Menyelam Lebih Dalam
Ketika panggilan hotline melaporkan kemungkinan penganiayaan terhadap anak, petugas penyaring harus memutuskan apakah akan menyelidikinya. Alat seperti Allegheny Family Screening Tool di Pennsylvania menghitung skor risiko dari data administratif – riwayat kesejahteraan sebelumnya, tunjangan publik, catatan kriminal dan perilaku kesehatan – untuk mendukung keputusan tersebut. Para pendukungnya mengatakan hal ini membuat penyaringan menjadi lebih konsisten; Kritikus, termasuk jurnalis dan ACLU, memperingatkan bahwa hal ini dapat mencerminkan kemiskinan dan bias rasial karena keluarga miskin dan kulit hitam terlalu banyak terwakili dalam kumpulan data pemerintah yang mereka pelajari. Departemen Kehakiman AS dilaporkan memeriksa apakah alat-alat tersebut mendiskriminasi penyandang disabilitas. Selain penilaian risiko, AI generatif kini membantu pekerja sosial menyusun catatan kasus, merangkum berkas kasus yang panjang, dan menerjemahkan dokumen, sehingga memberikan waktu luang untuk menghubungi klien secara langsung.
Wawasan Teknis
Sebagian besar model risiko kesejahteraan anak merupakan pengklasifikasi yang diawasi dan dilatih untuk memprediksi hasil seperti rujukan ulang di masa depan atau penempatan di luar rumah, dengan menggunakan catatan kasus historis sebagai label. Bahayanya adalah bias proksi: model belajar dari keputusan lembaga di masa lalu, sehingga jika keputusan tersebut bias, skor akan mereproduksi keputusan tersebut. Karena semakin banyak data pemerintah mengenai keluarga berpenghasilan rendah, frekuensi kontak sebelumnya menjadi sebuah fitur yang berkorelasi dengan kemiskinan dibandingkan dengan risiko sebenarnya, sehingga meningkatkan skor bagi masyarakat yang sudah disurvei.
Dampak Strategis
Context and rules
Konteks industri menentukan apakah ide AI dapat bertahan jika bersentuhan dengan kenyataan.
Quality control
Batasan domain memengaruhi tingkat kesalahan dan model pengawasan yang dapat diterima.
Build choices
Penerapan yang berhasil menyelaraskan kemampuan teknis dengan alur kerja garis depan.
Masa Depan AI dalam Pekerjaan Sosial dan Kesejahteraan Anak
Bidang ini bergerak ke arah 'dukungan keputusan, bukan pengambilan keputusan' — menjaga agar manusia selalu mengetahui informasi terbaru, menerbitkan audit model, dan memberikan hak kepada keluarga untuk mempermasalahkan skor. Harapkan adanya audit bias eksternal, pengawasan diskriminasi disabilitas, dan peraturan yang lebih jelas bahwa skor risiko tidak akan pernah bisa menjadi satu-satunya dasar untuk mengeluarkan seorang anak. Penggunaan yang berisiko lebih rendah dan tidak terlalu dipermasalahkan – mengotomatiskan dokumen, merangkum catatan, dan menerjemahkan – kemungkinan akan berkembang lebih cepat dibandingkan penilaian risiko prediktif.
Implementasi Dunia Nyata
Alat Pemeriksaan Keluarga Allegheny menghasilkan skor risiko untuk membantu petugas hotline memutuskan apakah akan menyelidiki rujukan penganiayaan
AI generatif menyusun dan merangkum catatan kasus sehingga pekerja sosial menghabiskan lebih sedikit waktu untuk dokumentasi dan lebih banyak menghabiskan waktu bersama keluarga
Alat terjemahan bahasa alami membantu pekerja sosial berkomunikasi dengan klien yang tidak bisa berbahasa Inggris dan menerjemahkan dokumen kasus
Analisis prediktif menandai generasi muda yang berisiko lebih tinggi mengalami penuaan jika tidak berada di panti asuhan tanpa penempatan permanen sehingga lembaga dapat memprioritaskan layanan
Risiko & Pagar Pembatas
Persyaratan peraturan dapat membatalkan prototipe yang kuat.
Data historis mungkin menunjukkan bias yang merugikan komunitas tertentu.
Sistem lama dapat menimbulkan hambatan integrasi dan biaya tersembunyi.
Peta Jalan Implementasi
Libatkan pakar domain mulai dari penyusunan masalah hingga evaluasi.
Rancang jalur audit dan dokumentasi sebelum peluncuran.
Validasi kewajiban kepatuhan dan keselamatan sejak dini.
Peluncuran secara bertahap dengan kriteria berhenti dan kembalikan yang jelas.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
AI di Perkeretaapian
Pertanyaan yang sering diajukan
What is AI in Social Work and Child Welfare?
Lembaga kesejahteraan anak menggunakan AI prediktif untuk membantu menyaring laporan pelecehan dan penelantaran, sementara pekerja sosial menggunakan alat AI untuk memotong dokumen dan memunculkan risiko. Sistem berisiko tinggi ini menimbulkan beberapa pertanyaan paling tajam mengenai keadilan dan akuntabilitas di seluruh AI.
Apa yang dihasilkan oleh Alat Skrining Keluarga Allegheny?
Alat ini menghasilkan skor risiko dari data administratif untuk mendukung pemeriksa manusia dalam memutuskan apakah laporan penganiayaan memerlukan penyelidikan – ini merupakan pendukung keputusan, bukan keputusan akhir.
Apa yang dimaksud dengan 'proxy bias' dalam model risiko kesejahteraan anak?
Bias proksi terjadi ketika fitur yang dapat diukur (seperti frekuensi kontak lembaga sebelumnya) berkorelasi dengan kemiskinan atau ras, dan bukan dengan hasil aktual yang ingin diprediksi oleh model.
Mengapa keluarga miskin dan kulit hitam mungkin menerima skor risiko yang meningkat dalam sistem ini?
Karena terdapat lebih banyak data administratif mengenai komunitas berpenghasilan rendah dan surveilans berlebihan, fitur-fitur kontak sebelumnya meningkatkan skor mereka bahkan ketika risiko sebenarnya tidak lebih tinggi.
Model pembelajaran mesin seperti apa yang biasanya digunakan untuk penilaian risiko kesejahteraan anak?
Alat-alat ini biasanya merupakan pengklasifikasi yang diawasi dan dilatih untuk memprediksi hasil seperti rujukan ulang atau penempatan, menggunakan catatan kasus masa lalu sebagai data pelatihan yang diberi label.
Penggunaan AI berisiko rendah manakah dalam pekerjaan sosial yang berkembang pesat?
AI generatif untuk dokumen, merangkum berkas kasus, dan penerjemahan tidak terlalu dipermasalahkan dibandingkan penilaian risiko prediktif dan diperluas ke waktu luang bagi pekerja sosial.