ШІ в соціальній роботі та охороні дитинства
Управління захисту дітей використовують інтелектуальний штучний інтелект, щоб перевіряти повідомлення про жорстоке поводження та нехтування, а соціальні працівники використовують інструменти штучного інтелекту, щоб зменшити паперову роботу та зменшити ризики.
Огляд
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
Глибоке занурення
Коли телефон гарячої лінії повідомляє про можливе жорстоке поводження з дітьми, перевіряючі повинні вирішити, чи проводити розслідування. Інструменти, такі як Allegheny Family Screening Tool у Пенсільванії, обчислюють оцінку ризику на основі адміністративних даних — попередньої історії соціального забезпечення, державних пільг, кримінальних і поведінкових даних — щоб підтвердити це рішення. Прихильники кажуть, що це робить скринінг більш послідовним; критики, в тому числі журналісти та ACLU, попереджають, що це може кодувати бідність і расові упередження, оскільки бідні та чорношкірі сім’ї надмірно представлені в самих державних наборах даних, з яких він вчиться. Повідомляється, що Міністерство юстиції США перевірило, чи дискримінують такі інструменти людей з обмеженими можливостями. Крім підрахунку ризиків, генеративний штучний інтелект тепер допомагає соціальним працівникам складати нотатки, узагальнювати великі файли справ і перекладати документи, звільняючи час для прямого контакту з клієнтом.
Технічне розуміння
Більшість моделей ризику для добробуту дітей — це підконтрольні класифікатори, навчені передбачати такий результат, як майбутнє повторне направлення або розміщення поза домом, використовуючи історичні записи випадків як мітки. Небезпека полягає в упередженості: модель вчиться на минулих рішеннях агентства, тому, якщо ці рішення були упередженими, оцінка їх відтворює. Оскільки існує більше урядових даних про сім’ї з низьким рівнем доходу, частота попередніх контактів стає ознакою, яка корелює з бідністю, а не з реальним ризиком, завищуючи оцінки для вже обстежених громад.
Стратегічний вплив
Контекст і правила
Галузевий контекст визначає, чи виживуть ідеї ШІ при контакті з реальністю.
Контроль якості
Обмеження домену впливають на прийнятну кількість помилок і моделі контролю.
Створіть вибір
Успішне розгортання узгоджує технічні можливості з робочими процесами.
Майбутнє штучного інтелекту в соціальній роботі та охороні дитинства
Сфера рухається до «підтримки прийняття рішень, а не прийняття рішень» — тримати людину в курсі, публікувати модельні аудити та давати сім’ям право змагатися за бали. Очікуйте зовнішніх упереджених перевірок, перевірки дискримінації інвалідності та більш чітких правил, згідно з якими оцінка ризику ніколи не може бути єдиною підставою для вилучення дитини. Використання з меншим ризиком, менш суперечливе — автоматизація документообігу, узагальнення записів і переклад — ймовірно, розширюватиметься швидше, ніж оцінювання прогнозованого ризику.
Реалізація в реальному світі
Інструмент скринінгу сімей Allegheny, який генерує оцінку ризику, щоб допомогти фахівцям гарячої лінії вирішити, чи варто розслідувати направлення щодо жорстокого поводження
Генеративний штучний інтелект створює та підсумовує нотатки про справи, щоб працівники, які працюють із справами, витрачали менше часу на документацію та більше часу на спілкування з родинами
Інструменти перекладу природною мовою, які допомагають соціальним працівникам спілкуватися з неангломовними клієнтами та перекладати документи справи
Прогностична аналітика, що позначає молодь із вищим ризиком старіння після прийомної опіки без постійного розміщення, щоб агентства могли визначити пріоритетність послуг
Ризики та огорожі
Нормативні вимоги можуть зробити недійсними в іншому випадку надійні прототипи.
Історичні дані можуть кодувати упередженість, яка шкодить певним спільнотам.
Застарілі системи можуть створювати вузькі місця інтеграції та приховані витрати.
Дорожня карта впровадження
Залучайте експертів із предметної області від розробки проблеми до оцінки.
Створіть контрольні стежки та документацію перед запуском.
Завчасно перевірте зобов’язання щодо відповідності та безпеки.
Розгортайте поетапно з чіткими критеріями зупинки та відкату.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
ШІ на залізниці
Часті запитання
What is AI in Social Work and Child Welfare?
Управління захисту дітей використовують інтелектуальний штучний інтелект, щоб перевіряти повідомлення про жорстоке поводження та нехтування, а соціальні працівники використовують інструменти штучного інтелекту, щоб зменшити паперову роботу та зменшити ризики. Ці системи з високими ставками викликають деякі з найгостріших питань щодо справедливості та підзвітності в усьому ШІ.
Що дає інструмент скринінгу родини Аллегені?
Інструмент генерує оцінку ризику на основі адміністративних даних, щоб допомогти перевіряючим людям вирішити, чи вимагає розслідування звіт про жорстоке поводження — це підтримка прийняття рішень, а не остаточне рішення.
Що таке «проксі-упередження» в моделях ризику добробуту дітей?
Проксі-зміщення виникає, коли вимірна характеристика (наприклад, частота попереднього контакту з агентством) корелює з бідністю чи расою, а не з фактичним результатом, який має передбачити модель.
Чому бідні та чорношкірі сім’ї можуть отримувати завищені показники ризику в цих системах?
Оскільки існує більше адміністративних даних про громади з низьким рівнем доходу та надмірне спостереження, функції попереднього контакту завищують їхні бали, навіть якщо фактичний ризик не є вищим.
Яка модель машинного навчання зазвичай використовується для оцінки ризику добробуту дітей?
Ці інструменти зазвичай є контрольованими класифікаторами, навченими прогнозувати результати, такі як повторне направлення або розміщення, використовуючи минулі записи випадків як позначені навчальні дані.
Яке використання ШІ в соціальній роботі з меншим ризиком швидко поширюється?
Генеративний штучний інтелект для документообігу, узагальнення матеріалів справи та перекладу є менш суперечливим, ніж прогнозна оцінка ризику, і поширюється на безкоштовний час працівників, які працюють із справами.