AI в социалната работа и закрилата на децата
Агенциите за закрила на децата използват предсказуем AI, за да помогнат за проверка на докладите за злоупотреба и пренебрегване, докато социалните работници използват AI инструменти, за да намалят документацията и повърхностния риск.
Преглед
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
Дълбоко гмуркане
Когато обаждане на гореща линия съобщи за възможно малтретиране на дете, проверяващите трябва да решат дали да разследват. Инструменти като Allegheny Family Screening Tool в Пенсилвания изчисляват оценка на риска от административни данни - предишна история на благосъстоянието, обществени ползи, криминални и поведенчески здравни досиета - в подкрепа на това решение. Поддръжниците казват, че това прави скрининга по-последователен; критици, включително журналисти и ACLU, предупреждават, че може да кодира бедност и расови пристрастия, тъй като бедните и чернокожите семейства са прекалено представени в самите правителствени набори от данни, от които се учи. Съобщава се, че Министерството на правосъдието на САЩ е проверило дали подобни инструменти дискриминират хората с увреждания. Освен оценяването на риска, генеративният AI сега помага на социалните работници да съставят бележки по случаи, да обобщават дълги досиета по случаи и да превеждат документи, освобождавайки време за директен контакт с клиента.
Техническа информация
Повечето рискови модели за благосъстоянието на децата са контролирани класификатори, обучени да предсказват резултат като бъдещо повторно насочване или настаняване извън дома, използвайки исторически записи на случаи като етикети. Опасността е прокси пристрастие: моделът се учи от минали решения на агенцията, така че ако тези решения са били пристрастни, резултатът ги възпроизвежда. Тъй като съществуват повече правителствени данни за семейства с ниски доходи, честотата на предишни контакти се превръща в характеристика, която корелира с бедността, а не с действителния риск, завишавайки резултатите за вече наблюдаваните общности.
Стратегическо въздействие
Context and rules
Индустриалният контекст определя дали идеите за ИИ оцеляват при контакт с реалността.
Quality control
Ограниченията на домейна влияят на приемливите нива на грешки и моделите за надзор.
Build choices
Успешното внедряване съгласува техническите възможности с работните потоци на първа линия.
Бъдещето на ИИ в социалната работа и благосъстоянието на децата
Полето се движи към „подкрепа при вземане на решения, а не към вземане на решения“ — поддържане на човек в течение, публикуване на одити на модели и даване на семействата на правото да оспорват резултати. Очаквайте външни пристрастни одити, проверка на дискриминацията по увреждания и по-ясни правила, че оценката на риска никога не може да бъде единствената основа за отстраняване на дете. По-нискорисковите, по-малко оспорвани употреби - автоматизиране на документооборота, обобщаване на записи и превод - вероятно ще се разширят по-бързо от точкуването на прогнозния риск.
Внедряване в реалния свят
Инструментът за скрининг на семейството Allegheny генерира оценка на риска, за да помогне на проверяващите на гореща линия да решат дали да разследват препращане за малтретиране
Генеративно AI изготвяне и обобщаване на бележки по случаи, така че работещите по случаи прекарват по-малко време в документация и повече със семействата
Инструменти за превод на естествен език, помагащи на социалните работници да общуват с клиенти, които не говорят английски, и да превеждат документи по случаи
Прогностичен анализ, маркиращ младежи с по-висок риск от остаряване от приемна грижа без постоянно настаняване, така че агенциите да могат да дават приоритет на услугите
Рискове и предпазни огради
Регулаторните изисквания могат да обезсилят иначе силните прототипи.
Историческите данни могат да кодират пристрастие, което вреди на определени общности.
Наследените системи могат да създадат затруднения при интеграцията и скрити разходи.
Пътна карта за изпълнение
Включете експерти в областта от рамкирането на проблема до оценката.
Проектирайте одитни пътеки и документация преди стартиране.
Ранно потвърдете задълженията за съответствие и безопасност.
Пускане на етапи с ясни критерии за спиране и връщане назад.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
AI в железниците
Frequently asked questions
What is AI in Social Work and Child Welfare?
Агенциите за закрила на децата използват предсказуем AI, за да помогнат за проверка на докладите за злоупотреба и пренебрегване, докато социалните работници използват AI инструменти, за да намалят документацията и повърхностния риск. Тези системи с високи залози повдигат някои от най-острите въпроси за справедливост и отчетност в целия AI.
Какво произвежда инструментът за скрининг на семейството Allegheny?
Инструментът генерира оценка на риска от административни данни, за да помогне на проверяващите хора да решат дали докладът за малтретиране изисква разследване - това е подкрепа за вземане на решения, а не окончателно решение.
Какво е „прокси пристрастие“ в рисковите модели за благосъстоянието на децата?
Прокси отклонение възниква, когато измерима характеристика (като честота на предишен контакт с агенция) корелира с бедност или раса, а не с действителния резултат, който моделът трябва да предвиди.
Защо бедните и чернокожите семейства могат да получат завишени рискови резултати в тези системи?
Тъй като съществуват повече административни данни за общности с ниски доходи и свръхнаблюдавани общности, функциите за предварителен контакт увеличават резултатите им дори когато действителният риск не е по-висок.
Какъв вид модел на машинно обучение обикновено се използва за оценка на риска за благосъстоянието на децата?
Тези инструменти обикновено са контролирани класификатори, обучени да предсказват резултати като повторно насочване или настаняване, използвайки минали записи на случаи като етикетирани данни за обучение.
Кое по-нискорисково използване на AI в социалната работа се разширява бързо?
Генеративният AI за документация, обобщаване на досиета и превод е по-малко оспорван от точкуването за предсказуем риск и се разширява до безплатно време на служителите по случаи.