L'IA dans le travail social et la protection de l'enfance
Les agences de protection de l'enfance utilisent l'IA prédictive pour aider à filtrer les rapports de maltraitance et de négligence, tandis que les travailleurs sociaux utilisent des outils d'IA pour réduire la paperasse et faire apparaître les risques.
Aperçu
These high-stakes systems raise some of the sharpest fairness and accountability questions in all of AI.
Plongée profonde
Lorsqu’un appel à la ligne d’assistance signale une possible maltraitance d’enfants, les agents de contrôle doivent décider s’ils doivent enquêter. Des outils comme l’Allegheny Family Screening Tool en Pennsylvanie calculent un score de risque à partir de données administratives – antécédents sociaux, prestations publiques, dossiers criminels et comportementaux – pour appuyer cette décision. Les partisans affirment que cela rend le dépistage plus cohérent ; les critiques, y compris les journalistes et l’ACLU, avertissent qu’il peut encoder la pauvreté et les préjugés raciaux parce que les familles pauvres et noires sont surreprésentées dans les ensembles de données gouvernementales mêmes dont elle tire ses leçons. Le ministère américain de la Justice aurait examiné si ces outils étaient discriminatoires à l'égard des personnes handicapées. Au-delà de l’évaluation des risques, l’IA générative aide désormais les travailleurs sociaux à rédiger des notes de cas, à résumer de longs dossiers et à traduire des documents, libérant ainsi du temps pour un contact direct avec les clients.
Aperçu technique
La plupart des modèles de risque pour la protection de l'enfance sont des classificateurs supervisés formés pour prédire un résultat tel qu'une future réorientation ou un placement hors du domicile, en utilisant les dossiers de cas historiques comme étiquettes. Le danger réside dans le biais de procuration : le modèle apprend des décisions passées de l'agence, donc si ces décisions étaient biaisées, le score les reproduit. Étant donné qu’il existe davantage de données gouvernementales sur les familles à faible revenu, la fréquence des contacts antérieurs devient une caractéristique en corrélation avec la pauvreté plutôt qu’avec le risque réel, gonflant ainsi les scores des communautés déjà surveillées.
Impact stratégique
Contexte et règles
Le contexte industriel détermine si les idées d’IA survivent au contact avec la réalité.
Contrôle qualité
Les contraintes de domaine influencent les taux d'erreur acceptables et les modèles de surveillance.
Choix de construction
Les déploiements réussis alignent les capacités techniques sur les flux de travail de première ligne.
L'avenir de l'IA dans le travail social et la protection de l'enfance
Le domaine s'oriente vers « l'aide à la décision, et non la prise de décision » : tenir un humain au courant, publier des modèles d'audit et donner aux familles le droit de contester les résultats. Attendez-vous à des audits externes sur les préjugés, à un examen minutieux de la discrimination fondée sur le handicap et à des règles plus claires selon lesquelles un score de risque ne peut jamais être la seule base pour retirer un enfant. Les utilisations à moindre risque et moins contestées – automatisation de la paperasse, synthèse des dossiers et traduction – se développeront probablement plus rapidement que la notation prédictive des risques.
Mise en œuvre dans le monde réel
L'outil de dépistage familial Allegheny génère un score de risque pour aider les agents de contrôle de la ligne d'assistance à décider s'il convient d'enquêter sur une référence pour maltraitance.
Rédaction et synthèse de notes de cas par l'IA générative afin que les assistants sociaux passent moins de temps sur la documentation et plus avec les familles
Outils de traduction en langage naturel aidant les travailleurs sociaux à communiquer avec des clients non anglophones et à traduire des documents de cas
Des analyses prédictives signalant que les jeunes courent un risque plus élevé de sortir du placement familial sans placement permanent afin que les agences puissent prioriser les services
Risques et garde-fous
Les exigences réglementaires peuvent invalider des prototypes autrement solides.
Les données historiques peuvent coder des préjugés qui nuisent à des communautés spécifiques.
Les systèmes existants peuvent créer des goulots d'étranglement en matière d'intégration et des coûts cachés.
Feuille de route de mise en œuvre
Impliquez des experts du domaine, de la formulation du problème à l’évaluation.
Concevoir des pistes d'audit et de la documentation avant le lancement.
Validez tôt les obligations de conformité et de sécurité.
Déployez par phases avec des critères d’arrêt et de restauration clairs.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Social Work and Child Welfare quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
L'IA dans les chemins de fer
Questions fréquemment posées
What is AI in Social Work and Child Welfare?
Les agences de protection de l'enfance utilisent l'IA prédictive pour aider à filtrer les rapports de maltraitance et de négligence, tandis que les travailleurs sociaux utilisent des outils d'IA pour réduire la paperasse et faire apparaître les risques. Ces systèmes aux enjeux élevés soulèvent certaines des questions les plus aiguës en matière d’équité et de responsabilité dans toute l’IA.
Que produit l’outil de dépistage familial Allegheny ?
L’outil génère un score de risque à partir des données administratives pour aider les examinateurs humains à décider si un rapport de maltraitance justifie une enquête – il s’agit d’une aide à la décision et non d’une décision finale.
Qu'est-ce que le « biais de procuration » dans les modèles de risque pour le bien-être de l'enfance ?
Un biais de procuration se produit lorsqu'une caractéristique mesurable (comme la fréquence des contacts antérieurs avec une agence) est en corrélation avec la pauvreté ou la race plutôt qu'avec le résultat réel que le modèle est censé prédire.
Pourquoi les familles pauvres et noires pourraient-elles recevoir des scores de risque gonflés dans ces systèmes ?
Étant donné qu’il existe davantage de données administratives sur les communautés à faible revenu et sur-surveillées, les caractéristiques de contact préalable gonflent leurs scores même lorsque le risque réel n’est pas plus élevé.
Quel type de modèle d’apprentissage automatique est généralement utilisé pour évaluer les risques liés au bien-être de l’enfance ?
Ces outils sont généralement des classificateurs supervisés formés pour prédire des résultats tels que la réorientation ou le placement, en utilisant des dossiers de cas antérieurs comme données de formation étiquetées.
Quelle utilisation à moindre risque de l’IA dans le travail social se développe rapidement ?
L’IA générative pour la paperasse, la synthèse des dossiers et la traduction est moins contestée que la notation prédictive des risques et s’étend au temps libre des travailleurs sociaux.