À suivreGuide suivant
Algorithmic Management in Gig Work
Secteurs
GUIDE Secteurs
L'IA dans le travail social et la protection de l'enfance
The Allegheny Family Screening Tool (AFST) is a predictive-risk model used by Allegheny County to support child-welfare referral screening.
Écoutez ce guideNarré par l'IA · ~1 min
Sur cette page1 minute de lecture
Aperçu
Its purpose, model design and governance are specific to that local tool and version.
Plongée profonde
AFST estimates a child’s likelihood of a specified child-welfare outcome within two years of an investigation, according to the county. Version 2 methodology describes logistic regression and its feature/validation choices. Research and advocacy analyses discuss how administrative data and prior service contact may encode socioeconomic differences; these are concerns about this tool and its data, not universal findings for every agency. County documentation describes a support role for screening staff.
Mise en œuvre dans le monde réel
Allegheny County says AFST produces a risk score to help screeners decide whether to investigate a referral.
Version 2 methodology describes logistic regression and evaluates modeling choices for that implementation.
A county update describes how screeners use the tool as additional information, not a replacement for professional judgment.
The ACLU and AP sources document public concerns and analyses of data choices and potential disparate impacts.
L'avenir de l'IA dans le travail social et la protection de l'enfance
Any legal or agency-adoption statement requires current jurisdiction-specific evidence. This guide does not predict fieldwide adoption or forecast changes to child-welfare law.
Le mettre en pratique
Pourquoi c'est important
- Contexte et règles. Le contexte industriel détermine si les idées d’IA survivent au contact avec la réalité.
- Contrôle qualité. Les contraintes de domaine influencent les taux d'erreur acceptables et les modèles de surveillance.
- Choix de construction. Les déploiements réussis alignent les capacités techniques sur les flux de travail de première ligne.
Attention à
- Les exigences réglementaires peuvent invalider des prototypes autrement solides.
- Les données historiques peuvent coder des préjugés qui nuisent à des communautés spécifiques.
- Les systèmes existants peuvent créer des goulots d'étranglement en matière d'intégration et des coûts cachés.
Prochaines étapes
- Impliquez des experts du domaine, de la formulation du problème à l’évaluation.
- Concevoir des pistes d'audit et de la documentation avant le lancement.
- Validez tôt les obligations de conformité et de sécurité.
- Déployez par phases avec des critères d’arrêt et de restauration clairs.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the AI in Social Work and Child Welfare quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
What is AI in Social Work and Child Welfare?
The Allegheny Family Screening Tool (AFST) is a predictive-risk model used by Allegheny County to support child-welfare referral screening. Its purpose, model design and governance are specific to that local tool and version.
Que produit l’outil de dépistage familial Allegheny ?
L’outil génère un score de risque à partir des données administratives pour aider les examinateurs humains à décider si un rapport de maltraitance justifie une enquête – il s’agit d’une aide à la décision et non d’une décision finale.
Qu'est-ce que le « biais de procuration » dans les modèles de risque pour le bien-être de l'enfance ?
Un biais de procuration se produit lorsqu'une caractéristique mesurable (comme la fréquence des contacts antérieurs avec une agence) est en corrélation avec la pauvreté ou la race plutôt qu'avec le résultat réel que le modèle est censé prédire.
Pourquoi les familles pauvres et noires pourraient-elles recevoir des scores de risque gonflés dans ces systèmes ?
Étant donné qu’il existe davantage de données administratives sur les communautés à faible revenu et sur-surveillées, les caractéristiques de contact préalable gonflent leurs scores même lorsque le risque réel n’est pas plus élevé.
Which model did the cited Allegheny Family Screening Tool methodology describe for its Version 2 risk score?
Allegheny County’s Version 2 methodology describes logistic regression for its Family Screening Tool. This is version-specific, not a claim about child-welfare risk tools generally.
What documentation-related workflow did a 2025 participatory-design study explore for social services?
The study co-designed and tested a prototype GenAI tool with social-service practitioners, identifying documentation and case analysis as possible uses while also noting risks; it does not establish broad adoption.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet