概述
其目的、模型設計與治理皆針對該地區工具與版本而定。
深入探討
AFST 估算根據縣別,在調查後兩年內兒童福利結果的可能性。第二版方法論描述了邏輯迴歸及其特徵/驗證選擇。研究與倡議分析討論行政資料與先前服務接觸如何編碼社會經濟差異;這些是對此工具及其資料的關注,而非對每個機構的普遍發現。縣文件描述了篩檢人員的支援角色。
現實世界的實施
阿勒格尼縣表示 AFST 產生風險分數,協助篩選人決定是否調查轉介。
第 2 版方法論說明邏輯迴歸,並評估該實作的模型選擇。
縣政府更新說明篩選人將此工具作為額外資訊使用,而非取代專業判斷。
ACLU 與 AP 資料來源記錄了公眾關注與資料選擇及潛在差異影響的分析。
人工智慧在社會工作和兒童福利領域的未來
任何法律或機構採用聲明都需要當前司法管轄區的證據。本指南不預測全域採用或預測兒童福利法的變更。
付諸實踐
為什麼這很重要
- 背景與規則. 產業背景決定了人工智慧創意能否與現實接觸。
- 品質管控. 領域約束會影響可接受的錯誤率和監督模型。
- 配裝選擇. 成功的部署使技術能力與第一線工作流程保持一致。
留意
- 監理要求可能會使原本強大的原型失效。
- 歷史資料可能會編碼損害特定社區的偏見。
- 遺留系統可能會造成整合瓶頸和隱性成本。
後續步驟
- 讓領域專家參與從問題框架到評估的整個過程。
- 在啟動前設計審計追蹤和文件。
- 儘早驗證合規性和安全義務。
- 分階段推出,並有明確的停止和回滾標準。
不斷探索
常見問題
什麼是社會工作和兒童福利領域的人工智慧?
Allegheny Family Screening Tool (AFST) 是 Allegheny County 用於支援兒童福利轉介篩檢的預測風險模型。其目的、模型設計與治理皆針對該地區工具與版本而定。
阿勒格尼家庭篩檢工具會產生什麼?
该工具根据管理数据生成风险评分,以支持人类筛查人员决定虐待报告是否值得调查——这是决策支持,而不是最终决定。
什么是儿童福利风险模型中的“代理偏差”?
当可测量的特征(例如之前与机构联系的频率)与贫困或种族相关,而不是与模型要预测的实际结果相关时,就会出现代理偏差。
为什么贫困家庭和黑人家庭在这些系统中可能会得到夸大的风险评分?
由于低收入和过度监控的社区存在更多的管理数据,因此即使实际风险并不更高,事先接触的特征也会夸大其分数。
所引用的 Allegheny Family Screening Tool 方法論描述了哪一個模型用於其 Version 2 風險分數?
Allegheny County 的 Version 2 方法論描述了其 Family Screening Tool 的邏輯迴歸。這是版本特定的,並非對兒童福利風險工具的一般聲稱。
2025 年參與式設計研究探討了哪些與文件相關的工作流程?
該研究與社會服務實務者共同設計並測試了一個 GenAI 原型工具,將文件與案例分析作為可能的用途,同時指出風險;它並未確立廣泛採用。