الذكاء الاصطناعي في العمل الاجتماعي ورعاية الطفل
وتستخدم وكالات رعاية الأطفال الذكاء الاصطناعي التنبؤي للمساعدة في فحص تقارير سوء المعاملة والإهمال، في حين يستخدم الأخصائيون الاجتماعيون أدوات الذكاء الاصطناعي لتقليص الأعمال الورقية وإظهار المخاطر.
نظرة عامة
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
الغوص العميق
عندما تبلغ مكالمة الخط الساخن عن سوء معاملة طفل محتمل، يجب على القائمين على الفحص أن يقرروا ما إذا كانوا سيحققون أم لا. وتقوم أدوات مثل أداة فحص عائلة أليجيني في ولاية بنسلفانيا بحساب درجة المخاطر من البيانات الإدارية - تاريخ الرعاية الاجتماعية السابق، والمنافع العامة، والسجلات الجنائية، وسجلات الصحة السلوكية - لدعم هذا القرار. ويقول المؤيدون إنه يجعل الفحص أكثر اتساقا؛ ويحذر النقاد، بما في ذلك الصحفيون واتحاد الحريات المدنية الأمريكي، من أنه يمكن أن يرمز إلى الفقر والتحيز العنصري لأن الأسر الفقيرة والسود ممثلة تمثيلا زائدا في مجموعات البيانات الحكومية نفسها التي تتعلم منها. وبحسب ما ورد، قامت وزارة العدل الأمريكية بفحص ما إذا كانت هذه الأدوات تميز ضد الأشخاص ذوي الإعاقة. بالإضافة إلى تسجيل المخاطر، يساعد الذكاء الاصطناعي التوليدي الآن الأخصائيين الاجتماعيين في صياغة ملاحظات الحالة، وتلخيص ملفات الحالة الطويلة، وترجمة المستندات، مما يوفر الوقت للاتصال المباشر بالعميل.
البصيرة الفنية
معظم نماذج المخاطر المتعلقة برعاية الطفل عبارة عن مصنفات خاضعة للإشراف ومدربة على التنبؤ بنتيجة مثل إعادة الإحالة المستقبلية أو الإيداع خارج المنزل، وذلك باستخدام سجلات الحالات التاريخية كتسميات. ويكمن الخطر في التحيز بالوكالة: فالنموذج يتعلم من قرارات الوكالة السابقة، وبالتالي إذا كانت تلك القرارات متحيزة، فإن النتيجة تعيد إنتاجها. ونظرًا لوجود المزيد من البيانات الحكومية عن الأسر ذات الدخل المنخفض، فإن تكرار الاتصال المسبق يصبح سمة ترتبط بالفقر بدلاً من المخاطر الفعلية، مما يؤدي إلى تضخيم درجات المجتمعات التي خضعت للمراقبة بالفعل.
التأثير الاستراتيجي
السياق والقواعد
يحدد سياق الصناعة ما إذا كانت أفكار الذكاء الاصطناعي ستظل على اتصال بالواقع.
مراقبة الجودة
تؤثر قيود المجال على معدلات الخطأ المقبولة ونماذج المراقبة.
خيارات البناء
تعمل عمليات النشر الناجحة على مواءمة القدرة التقنية مع سير العمل في الخطوط الأمامية.
مستقبل الذكاء الاصطناعي في العمل الاجتماعي ورعاية الطفل
يتجه هذا المجال نحو "دعم القرار، وليس اتخاذ القرار" - أي إبقاء الإنسان على اطلاع، ونشر عمليات التدقيق النموذجية، ومنح العائلات الحق في الاعتراض على النتائج. توقع عمليات تدقيق خارجية متحيزة، وتدقيقًا في التمييز على أساس الإعاقة، وقواعد أكثر وضوحًا مفادها أن درجة المخاطرة لا يمكن أن تكون الأساس الوحيد لإزالة طفل. ومن المرجح أن تتوسع الاستخدامات الأقل خطورة والأقل إثارة للجدل - مثل أتمتة الأعمال الورقية، وتلخيص السجلات، والترجمة - بشكل أسرع من تسجيل المخاطر التنبؤية.
التنفيذ في العالم الحقيقي
تعمل أداة فحص عائلة Allegheny على إنشاء درجة المخاطر لمساعدة القائمين على فحص الخط الساخن في تحديد ما إذا كانوا سيحققون في إحالة سوء المعاملة
يقوم الذكاء الاصطناعي بصياغة ملاحظات الحالة وتلخيصها بحيث يقضي أخصائيو الحالات وقتًا أقل في التوثيق وأكثر مع العائلات
أدوات ترجمة باللغة الطبيعية تساعد الأخصائيين الاجتماعيين على التواصل مع العملاء غير الناطقين باللغة الإنجليزية وترجمة مستندات الحالة
تشير التحليلات التنبؤية إلى أن الشباب أكثر عرضة لخطر الشيخوخة خارج الرعاية البديلة دون التنسيب الدائم حتى تتمكن الوكالات من تحديد أولويات الخدمات
المخاطر والدرابزين
يمكن أن تؤدي المتطلبات التنظيمية إلى إبطال النماذج الأولية القوية.
قد ترمز البيانات التاريخية إلى التحيز الذي يضر بمجتمعات معينة.
يمكن للأنظمة القديمة أن تخلق اختناقات في التكامل وتكاليف مخفية.
خارطة طريق التنفيذ
إشراك خبراء المجال بدءًا من صياغة المشكلات وحتى التقييم.
تصميم مسارات التدقيق والوثائق قبل الإطلاق.
التحقق من صحة التزامات الامتثال والسلامة في وقت مبكر.
يتم طرحها على مراحل مع معايير واضحة للتوقف والتراجع.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
الذكاء الاصطناعي في السكك الحديدية
الأسئلة المتداولة
What is AI in Social Work and Child Welfare?
وتستخدم وكالات رعاية الأطفال الذكاء الاصطناعي التنبؤي للمساعدة في فحص تقارير سوء المعاملة والإهمال، في حين يستخدم الأخصائيون الاجتماعيون أدوات الذكاء الاصطناعي لتقليص الأعمال الورقية وإظهار المخاطر. تثير هذه الأنظمة عالية المخاطر بعضًا من أهم الأسئلة المتعلقة بالعدالة والمساءلة في مجال الذكاء الاصطناعي.
ما الذي تنتجه أداة فحص عائلة Allegheny؟
تنشئ الأداة درجة المخاطر من البيانات الإدارية لدعم القائمين على الفحص البشري في تحديد ما إذا كان تقرير سوء المعاملة يستحق التحقيق أم لا - إنه دعم القرار، وليس قرارًا نهائيًا.
ما هو "التحيز بالوكالة" في نماذج المخاطر المتعلقة برعاية الطفل؟
يحدث التحيز بالوكالة عندما ترتبط سمة قابلة للقياس (مثل تكرار الاتصال السابق بالوكالة) بالفقر أو العرق بدلاً من النتيجة الفعلية التي يهدف النموذج إلى التنبؤ بها.
لماذا قد تحصل الأسر الفقيرة والسود على درجات مخاطر متضخمة في هذه الأنظمة؟
ونظرًا لوجود المزيد من البيانات الإدارية عن المجتمعات ذات الدخل المنخفض والخاضعة للمراقبة المفرطة، فإن ميزات الاتصال المسبق تعمل على تضخيم نتائجها حتى عندما لا تكون المخاطر الفعلية أعلى.
ما هو نوع نموذج التعلم الآلي المستخدم عادة لتسجيل المخاطر المتعلقة برفاهية الطفل؟
عادةً ما تكون هذه الأدوات عبارة عن مصنفات خاضعة للإشراف ومدربة على التنبؤ بالنتائج مثل إعادة الإحالة أو التنسيب، وذلك باستخدام سجلات الحالات السابقة كبيانات تدريب مصنفة.
ما هو الاستخدام الأقل خطورة للذكاء الاصطناعي في العمل الاجتماعي الذي يتوسع بسرعة؟
يعتبر الذكاء الاصطناعي التوليدي للأعمال الورقية وتلخيص ملفات الحالة والترجمة أقل إثارة للجدل من تسجيل المخاطر التنبؤية ويتوسع ليشمل وقت أخصائي الحالات.