AI w pracy socjalnej i opiece nad dziećmi
Agencje opieki nad dziećmi wykorzystują predykcyjną sztuczną inteligencję do sprawdzania zgłoszeń dotyczących molestowania i zaniedbania, natomiast pracownicy socjalni korzystają z narzędzi sztucznej inteligencji, aby ograniczyć formalności i ujawnić ryzyko.
Przegląd
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
Głębokie nurkowanie
Kiedy na infolinię zgłaszane jest możliwe znęcanie się nad dzieckiem, osoby przeprowadzające kontrolę muszą zdecydować, czy rozpocząć dochodzenie. Narzędzia takie jak Allegheny Family Screening Tool w Pensylwanii obliczają ocenę ryzyka na podstawie danych administracyjnych – wcześniejszej historii opieki społecznej, świadczeń publicznych, kartoteki kryminalnej i behawioralnej – na poparcie tej decyzji. Zwolennicy twierdzą, że dzięki temu badania przesiewowe są bardziej spójne; krytycy, w tym dziennikarze i ACLU, ostrzegają, że może on kodować ubóstwo i uprzedzenia rasowe, ponieważ biedne i czarne rodziny są nadreprezentowane w samych rządowych zbiorach danych, z których się uczy. Departament Sprawiedliwości Stanów Zjednoczonych podobno zbadał, czy takie narzędzia dyskryminują osoby niepełnosprawne. Oprócz punktacji ryzyka, generatywna sztuczna inteligencja pomaga teraz pracownikom socjalnym w sporządzaniu notatek dotyczących spraw, podsumowywaniu długich akt spraw i tłumaczeniu dokumentów, oszczędzając czas na bezpośredni kontakt z klientem.
Wgląd techniczny
Większość modeli ryzyka dla dobra dzieci to nadzorowane klasyfikatory, przeszkolone w zakresie przewidywania wyniku, takiego jak przyszłe ponowne skierowanie lub umieszczenie poza domem rodzinnym, wykorzystujące historyczne zapisy przypadków jako etykiety. Niebezpieczeństwem jest stronniczość zastępcza: model uczy się na podstawie decyzji agencji z przeszłości, więc jeśli te decyzje były stronnicze, wynik je odtwarza. Ponieważ istnieje więcej danych rządowych na temat rodzin o niskich dochodach, częstotliwość wcześniejszych kontaktów staje się cechą korelującą z ubóstwem, a nie rzeczywistym ryzykiem, zawyżając wyniki już zbadanych społeczności.
Wpływ strategiczny
Kontekst i zasady
Kontekst branżowy decyduje o tym, czy pomysły AI przetrwają kontakt z rzeczywistością.
Kontrola jakości
Ograniczenia domeny wpływają na akceptowalne poziomy błędów i modele nadzoru.
Buduj wybory
Pomyślne wdrożenia łączą możliwości techniczne z przepływami pracy na pierwszej linii frontu.
Przyszłość sztucznej inteligencji w pracy socjalnej i opiece nad dziećmi
Dziedzina zmierza w kierunku „wspomagania decyzji, a nie podejmowania decyzji” – informowania człowieka o bieżących wydarzeniach, publikowania audytów modeli i dawania rodzinom prawa do kwestionowania wyników. Można się spodziewać zewnętrznych audytów stronniczości, kontroli pod kątem dyskryminacji ze względu na niepełnosprawność oraz jaśniejszych zasad stanowiących, że ocena ryzyka nigdy nie może być jedyną podstawą odebrania dziecka. Zastosowania charakteryzujące się niższym ryzykiem i mniej kwestionowane – automatyzacja dokumentacji, podsumowywanie zapisów i tłumaczenie – będą prawdopodobnie rozwijać się szybciej niż przewidywana punktacja ryzyka.
Implementacja w świecie rzeczywistym
Narzędzie do badania rodzin w Allegheny generuje ocenę ryzyka, aby pomóc osobom przeprowadzającym infolinię w podjęciu decyzji, czy zbadać skierowanie w sprawie maltretowania
Generacyjna sztuczna inteligencja sporządza i podsumowuje notatki dotyczące spraw, dzięki czemu pracownicy socjalni spędzają mniej czasu na dokumentacji, a więcej z rodzinami
Narzędzia do tłumaczenia w języku naturalnym, pomagające pracownikom socjalnym komunikować się z klientami nieanglojęzycznymi i tłumaczyć dokumenty spraw
Analityka predykcyjna wskazująca, że młodzież przebywająca w pieczy zastępczej bez stałego miejsca zamieszkania jest obciążona większym ryzykiem starzenia się, dzięki czemu agencje mogą ustalać priorytety usług
Zagrożenia i poręcze
Wymogi prawne mogą unieważnić mocne prototypy.
Dane historyczne mogą kodować uprzedzenia, które szkodzą konkretnym społecznościom.
Starsze systemy mogą powodować wąskie gardła w integracji i ukryte koszty.
Plan wdrożenia
Zaangażuj ekspertów dziedzinowych od sformułowania problemu po ocenę.
Zaprojektuj ścieżki audytu i dokumentację przed uruchomieniem.
Wcześnie zweryfikuj wymogi dotyczące zgodności i bezpieczeństwa.
Wdrażaj etapami z jasnymi kryteriami zatrzymania i wycofywania.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Sztuczna inteligencja na kolei
Często zadawane pytania
What is AI in Social Work and Child Welfare?
Agencje opieki nad dziećmi wykorzystują predykcyjną sztuczną inteligencję do sprawdzania zgłoszeń dotyczących molestowania i zaniedbania, natomiast pracownicy socjalni korzystają z narzędzi sztucznej inteligencji, aby ograniczyć formalności i ujawnić ryzyko. Te systemy o wysoką stawkę rodzą jedne z najostrzejszych pytań dotyczących uczciwości i odpowiedzialności w całej sztucznej inteligencji.
Co daje narzędzie do badania rodziny Allegheny?
Narzędzie generuje ocenę ryzyka na podstawie danych administracyjnych, aby pomóc osobom przeprowadzającym badania przesiewowe w podjęciu decyzji, czy zgłoszenie dotyczące maltretowania wymaga dochodzenia – jest to wsparcie w podejmowaniu decyzji, a nie ostateczna decyzja.
Czym jest „zastępczy błąd” w modelach ryzyka dla dobra dzieci?
Odchylenie zastępcze ma miejsce, gdy mierzalna cecha (np. częstotliwość wcześniejszych kontaktów z agencją) koreluje z ubóstwem lub rasą, a nie z rzeczywistym wynikiem, który model ma przewidzieć.
Dlaczego rodziny biedne i czarne mogą otrzymywać zawyżone oceny ryzyka w tych systemach?
Ponieważ istnieje więcej danych administracyjnych na temat społeczności o niskich dochodach i nadmiernie nadzorowanych, funkcje wcześniejszego kontaktu zawyżają ich wyniki, nawet jeśli rzeczywiste ryzyko nie jest wyższe.
Jaki rodzaj modelu uczenia maszynowego jest zwykle używany do oceny ryzyka związanego z dobrostanem dzieci?
Narzędzia te to zazwyczaj nadzorowane klasyfikatory, przeszkolone w zakresie przewidywania wyników, takich jak ponowne skierowanie lub umieszczenie, wykorzystujące zapisy poprzednich przypadków jako oznaczone dane szkoleniowe.
Które zastosowania sztucznej inteligencji charakteryzujące się niższym ryzykiem w pracy socjalnej szybko się rozwijają?
Generacyjna sztuczna inteligencja do obsługi dokumentów, podsumowań akt spraw i tłumaczeń budzi mniejsze kontrowersje niż przewidywana punktacja ryzyka i obejmuje coraz więcej wolnego czasu pracowników socjalnych.