सामाजिक कार्य और बाल कल्याण में ए.आई

बाल कल्याण एजेंसियां दुर्व्यवहार और उपेक्षा रिपोर्टों को स्क्रीन करने में मदद करने के लिए पूर्वानुमानित एआई का उपयोग कर रही हैं, जबकि सामाजिक कार्यकर्ता कागजी कार्रवाई और सतही जोखिम को कम करने के लिए एआई टूल का उपयोग करते हैं। ये उच्च-दांव वाली प्रणालियाँ संपूर्ण एआई में कुछ तीव्र निष्पक्षता और जवाबदेही प्रश्न उठाती हैं।

उपकरण प्रशासनिक डेटा से एक जोखिम स्कोर उत्पन्न करता है ताकि मानव जांचकर्ताओं को यह तय करने में सहायता मिल सके कि दुर्व्यवहार रिपोर्ट की जांच की आवश्यकता है या नहीं - यह निर्णय समर्थन है, अंतिम निर्णय नहीं।

प्रॉक्सी पूर्वाग्रह तब होता है जब एक मापने योग्य सुविधा (जैसे पूर्व एजेंसी संपर्क की आवृत्ति) मॉडल की भविष्यवाणी करने वाले वास्तविक परिणाम के बजाय गरीबी या नस्ल से संबंधित होती है।

क्योंकि कम आय और अधिक निगरानी वाले समुदायों पर अधिक प्रशासनिक डेटा मौजूद है, पूर्व-संपर्क सुविधाएँ उनके स्कोर को बढ़ाती हैं, भले ही वास्तविक जोखिम अधिक न हो।

ये उपकरण आमतौर पर पर्यवेक्षित क्लासिफायर होते हैं जिन्हें लेबल किए गए प्रशिक्षण डेटा के रूप में पिछले केस रिकॉर्ड का उपयोग करके री-रेफ़रल या प्लेसमेंट जैसे परिणामों की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है।

कागजी कार्रवाई, केस फाइलों का सारांश और अनुवाद के लिए जेनरेटिव एआई पर भविष्य कहनेवाला जोखिम स्कोरिंग की तुलना में कम विवाद है और यह मुफ्त केसवर्कर समय तक विस्तारित हो रहा है।