āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļāļāļīāđāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāļāļēāļĢāļāļ§āļāļāļļāļĄāđāļāļ·āđāļāļŦāļē
āļŠāļąāļāļāļĄ
āļāļđāđāļĄāļ·āļāļŠāļąāļāļāļĄ
āļāļēāļĢāļĻāļķāļāļĐāļēāļāļēāļāļ§āļīāļāļĒāļēāļĻāļēāļŠāļāļĢāđāđāļāļāļĩ 2019 āļāļāļ§āđāļēāļĄāļĩāļāļāļāļīāļāļēāļāđāļāļ·āđāļāļāļēāļāļīāđāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāļŠāļļāļāļ āļēāļāļāļĢāļ°āļāļēāļāļĢāđāļĨāļ°āļŠāļļāļāļ āļēāļāļāļĩāđāđāļāđāļāļąāļāļāļĒāđāļēāļāđāļāļĢāđāļŦāļĨāļēāļĒ āđāļāļ·āđāļāļāļāļēāļāļāļēāļāļāļēāļĢāļāđāļāđāļēāđāļāđāļāđāļēāļĒāļāđāļēāļāļāļēāļĢāļĢāļąāļāļĐāļēāļāļĒāļēāļāļēāļĨāđāļāļāļāļēāļāļāđāļāļāļēāļāļ°āļāļąāļ§āđāļāļāļŠāļģāļŦāļĢāļąāļāļāļ§āļēāļĄāļāđāļāļāļāļēāļĢāļāđāļēāļāļŠāļļāļāļ āļēāļ
āļāļąāļāļāļģāđāļāļ°āļāļģāļāļĩāđāļāļĢāļĢāļĒāļēāļĒāđāļāļĒ AI · ~3 min
āļāļĩāđāļāļ°āđāļāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļāļĩāļĒāļ§āļāļąāļ āļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāļĄāļĩāļāļēāļāļēāļĢāļāđāļ§āļĒāļĄāļēāļāļāļ§āđāļēāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļēāļ§ āļāļēāļĢāđāļāļĨāļĩāđāļĒāļāļāļĢāđāļāļāļāļĩāļāļģāđāļŦāđāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāļāļĩāđāđāļāđāļĢāļąāļāđāļĨāļ·āļāļāđāļāļ·āđāļāļĢāļąāļāļāļēāļĢāļŠāļāļąāļāļŠāļāļļāļāļāļīāđāļĻāļĐāđāļāļīāđāļĄāļāļķāđāļāļāļēāļ 17.7% āđāļāđāļ 46.5% āđāļāļāļēāļĢāļĻāļķāļāļĐāļēāļāļĢāļąāđāļāļāļąāđāļ āļāļĨāļĨāļąāļāļāđāđāļāļĩāđāļĒāļ§āļāđāļāļāļāļąāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāđāļĨāļ°āļāļąāļ§āļāļĒāđāļēāļāđāļāļāļēāļ° āđāļĄāđāđāļāđāļāļļāļāļĢāļđāļāđāļāļāļāļēāļĢāļāļđāđāļĨāļŠāļļāļāļ āļēāļ
Obermeyer and coauthorsâ 2019 Science study examined a commercial algorithm used to identify patients with complex health needs for extra care-management support. The tool predicted future healthcare spending as a proxy for health need. The authors found that, at a given risk score, Black patients were considerably sicker than White patients, as measured by uncontrolled illness. The studyâs mechanism was structural: because Black patients had historically received less care and generated lower costs at similar levels of illness, a cost-prediction target understated their need. The proxy appeared predictive of spending while encoding unequal access to care. In the study population, replacing the cost target with a measure more closely related to illness would have increased the proportion of Black patients receiving additional help from 17.7% to 46.5%. That figure describes the studyâs reallocation result, not a nationwide estimate or a general expected correction rate. The research affected an algorithm used across multiple health systems and drew attention to how proxies can transmit inequity without explicitly including race. It did not show that every use of cost data is biased or that the same pattern appears in every model. The broader lesson is to examine whether a target variable represents the desired construct. Expenditure reflects illness, but also insurance, access, clinician decisions, service availability and historical patterns. A model can be statistically accurate for its proxy and still fail the operational objective of identifying people who need care. Follow-up audits should assess patient-level health outcomes, access to interventions and subgroup effects, while recognizing that the 2019 result is specific to one algorithm, intended use and dataset.
āļĢāļ°āļāļāļŠāļļāļāļ āļēāļāļāļ°āļāļĢāļ§āļāļŠāļāļāļ§āđāļēāļāļēāļĢāđāļāđāļāđāļēāļĒāđāļāļāļāļĩāļāļŠāļ°āļāđāļāļāļāļķāļāļāļēāļĢāđāļāđāļēāļāļķāļāļāļēāļĢāļĢāļąāļāļĐāļēāļāļĩāđāđāļĄāđāđāļāđāļēāđāļāļĩāļĒāļĄāļāļąāļāļŦāļĢāļ·āļāđāļĄāđ āļāđāļāļāļāļĩāđāļāļ°āđāļāđāļāđāļāļāļļāļāđāļāļ·āđāļāļāļąāļāļŠāļĢāļĢāļāļēāļĢāļŠāļāļąāļāļŠāļāļļāļāļāļēāļĢāļāļąāļāļāļēāļĢāđāļĢāļāđāļāļīāđāļĄāđāļāļīāļĄ
āļāļĩāļĄāđāļāļāļāļģāļĨāļāļāđāļāļĢāļĩāļĒāļāđāļāļĩāļĒāļāļāđāļāļāļļāļāļāļĩāđāļāļēāļāļāļēāļĢāļāđāđāļ§āđāļāļąāļāļāļ§āļēāļĄāļāđāļāļāļāļēāļĢāļāļēāļāļāļĨāļīāļāļīāļāđāļĨāļ°āļāļĨāļĨāļąāļāļāđāđāļāļāļĨāļļāđāļĄāđāļāļ·āđāļāļāļēāļāļī āđāļāļāļāļĩāđāļāļ°āļāļ·āļāļ§āđāļēāļāļēāļĢāđāļāđāļāđāļēāļĒāđāļāđāļāļāđāļēāļĒāļŠāļļāļāļ āļēāļāļāļĩāđāđāļāđāļāļāļĨāļēāļ
āļāļđāđāļāļĢāļ§āļāļŠāļāļāļāļ°āļāļĢāļ§āļāļŠāļāļāļ§āđāļēāļāļ°āđāļāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļĄāđāđāļāđāđāļĨāļ·āļāļāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāļāļĩāđāļĄāļĩāļ āļēāļĢāļ°āļāļēāļĢāđāļāđāļāļāđāļ§āļĒāļāļĩāđāđāļāļĩāļĒāļāđāļāļĩāļĒāļāļŦāļĢāļ·āļāļĄāļēāļāļāļ§āđāļēāđāļāđ
āļāļāļ°āļāļĢāļĢāļĄāļāļēāļĢāļāļģāļāļąāļāļāļđāđāļĨāļāļ°āļāļģāļāļēāļĢāļāļĢāļ°āđāļĄāļīāļāļāđāļģāļŦāļĨāļąāļāļāļēāļāđāļāļĨāļĩāđāļĒāļāđāļāđāļēāļŦāļĄāļēāļĒāļāļēāļāļāđāļāļāļļāļāđāļāđāļāļāļēāļĢāļ§āļąāļāļāļ§āļēāļĄāļāđāļāļāļāļēāļĢāļāļēāļĄāļŦāļĨāļąāļāļāļēāļĢāđāļāļāļĒāđ
āļāļēāļĢāļĻāļķāļāļĐāļēāļĒāļąāļāļāļāđāļāđāļāļāļąāļ§āļāļĒāđāļēāļāļāļĩāđāļŠāļģāļāļąāļāļāļāļāļāļāļāļīāļāđāļāđāļāđāļēāļŦāļĄāļēāļĒāļāļĢāđāļāļāļāļĩ āđāļāļāļāļ°āļāļĩāđāļĢāļ°āļāļāđāļĨāļ°āļāļļāļāļāđāļāļĄāļđāļĨāđāļāļ āļēāļĒāļŦāļĨāļąāļāļāļģāđāļāđāļāļāđāļāļāļĄāļĩāļāļēāļĢāļāļĢāļ°āđāļĄāļīāļāļāļāļāļāļāđāļāļ āļĢāļ°āļāļāļŠāļļāļāļ āļēāļāļāļ§āļĢāļāļĢāļ§āļāļŠāļāļāđāļāđāļēāļŦāļĄāļēāļĒ āļĢāļđāļāđāļāļāļāļēāļĢāđāļāđāļēāļāļķāļ āđāļĨāļ°āļāļĨāļĨāļąāļāļāđāļāļĩāļāļāļĢāļąāđāļāđāļāđāļāļĢāļ°āļĒāļ° āđāļĄāļ·āđāļāđāļāļāļāļģāļĨāļāļāļŦāļĢāļ·āļāđāļāļĢāđāļāļĢāļĄāļāļēāļĢāļāļđāđāļĨāđāļāļĨāļĩāđāļĒāļāđāļāļĨāļāđāļ āļāļĒāđāļēāļŠāļĢāļļāļāļāļĨāļĨāļąāļāļāđāļāļĩ 2019 āđāļŦāđāđāļāđāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāļāļ·āđāļāđāļāļĒāđāļĄāđāļĄāļĩāļŦāļĨāļąāļāļāļēāļ āđāļāđāļāļāļąāļāļāļķāļāļ§āļąāļāļāļĩāđāļāļāļāđāļŦāļĨāđāļāļāļĩāđāļĄāļēāļŦāļĨāļąāļāļŦāļĢāļ·āļāļāļēāļĢāļĻāļķāļāļĐāļēāđāļāļ·āđāļāļāļŦāļĨāļąāļāļāļēāļĢāļāđāļēāļāļŠāļīāļāļāļīāđāđāļāđāļĨāļ°āļĢāļēāļĒāļāļēāļĢ āđāļĨāļ°āļāļāļāļ§āļāļāđāļāļŠāļĢāļļāļāļāļĩāļāļāļĢāļąāđāļāđāļĄāļ·āđāļāļĄāļĩāļŦāļĨāļąāļāļāļēāļāđāļŦāļĄāđāļŦāļĢāļ·āļāļĢāļēāļĒāļĨāļ°āđāļāļĩāļĒāļāļāļēāļĢāļāļģāđāļāļīāļāļāļēāļĢāđāļāļīāļāļāļķāđāļ āđāļāļ·āđāļāļāļāļēāļāđāļŠāđāļāļāļēāļāļāļēāļĢāļāļđāđāļĨāđāļĨāļ°āļāļ§āļēāļĄāļāļļāđāļĄāļāļĢāļāļāļāļĢāļ°āļāļąāļāļ āļąāļĒāđāļāļĨāļĩāđāļĒāļāđāļāļĨāļ āļāđāļāļĄāļđāļĨāļāđāļāļāļļāļāđāļĨāļ°āļāļēāļĢāđāļāđāļāļĢāļ°āđāļĒāļāļāđāļāļēāļāđāļāļĨāļĩāđāļĒāļāđāļāļĨāļāđāļāļĒāđāļĄāđāļāļķāđāļāļāļĒāļđāđāļāļąāļāļ āļēāļĢāļ°āđāļĢāļāļāļĩāđāđāļāđāļāļāđāļāđāļŦāļāļļ
āļāļāļŦāļĄāļēāļĒāļāđāļēāļ§āļāļĢāļĩ
āđāļĢāļ·āđāļāļāļĢāļēāļ§ AI āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļĨāđāļ§ 3 āđāļĢāļ·āđāļāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āđāļāđāļē, āđāļāļĩāļĒāļāđāļāđāļāļ āļēāļĐāļēāļāļąāļāļāļĪāļĐāļāļĢāļĢāļĄāļāļē āļāļĢāļĩāļāļĨāļāļāđāļ āđāļĄāđāļĄāļĩāđāļāļĐāļāļē
āļāļĩāđāļĄāļĨāļŦāļāļķāđāļāļāļāļąāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āļĒāļāđāļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļāļĢāđāļāļāļĨāļīāļāđāļāļĩāļĒāļ§ āđāļĢāļēāđāļĄāđāđāļāļĒāļāļēāļĒāļŦāļĢāļ·āļāđāļāļĢāđāļāļĩāđāļāļĒāļđāđāļāļĩāđāļĄāļĨāļāļāļāļāļļāļ
āļāļāļŠāļāļāļāļąāļ§āđāļāļ
āļāđāļāđāļŠāļāļāđāļāļ°āļāļąāļāļāļĩāļŠāļģāļŦāļĢāļąāļāļāļļāļāļāļģāļāļāļ āđāļĨāļ°āđāļāļĢāļąāļāļĢāļāļāļāļĩāđāļŠāļēāļĄāļēāļĢāļāđāļāļĢāđāđāļāđāļāļĢāđāļāļĄ ID āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļāđāđāļĄāļ·āđāļāļāļļāļāļāđāļēāļāļŦāļĨāļąāļāļŠāļđāļāļĢ
āļŠāļāļąāļāļŠāļāļļāļāļāļēāļĢāļĻāļķāļāļĐāļē AI āļāļĢāļĩ AI Understanding āđāļāđāļāļāļāļāđāļāļĢāđāļĄāđāđāļŠāļ§āļāļŦāļēāļāļĨāļāļģāđāļĢ 501(c)(3) â āđāļĄāđāļĄāļĩāđāļāļĐāļāļē āđāļĄāđāļĄāļĩāļāļģāđāļāļāđāļāļīāļ, āļāļĨāļāļāđāļ āļāļĢāļīāļāļēāļ
āļāļēāļĢāļĻāļķāļāļĐāļēāļāļēāļāļ§āļīāļāļĒāļēāļĻāļēāļŠāļāļĢāđāđāļāļāļĩ 2019 āļāļāļ§āđāļēāļĄāļĩāļāļāļāļīāļāļēāļāđāļāļ·āđāļāļāļēāļāļīāđāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāļŠāļļāļāļ āļēāļāļāļĢāļ°āļāļēāļāļĢāđāļĨāļ°āļŠāļļāļāļ āļēāļāļāļĩāđāđāļāđāļāļąāļāļāļĒāđāļēāļāđāļāļĢāđāļŦāļĨāļēāļĒ āđāļāļ·āđāļāļāļāļēāļāļāļēāļāļāļēāļĢāļāđāļāđāļēāđāļāđāļāđāļēāļĒāļāđāļēāļāļāļēāļĢāļĢāļąāļāļĐāļēāļāļĒāļēāļāļēāļĨāđāļāļāļāļēāļāļāđāļāļāļēāļāļ°āļāļąāļ§āđāļāļāļŠāļģāļŦāļĢāļąāļāļāļ§āļēāļĄāļāđāļāļāļāļēāļĢāļāđāļēāļāļŠāļļāļāļ āļēāļ āļāļĩāđāļāļ°āđāļāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļāļĩāļĒāļ§āļāļąāļ āļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāļĄāļĩāļāļēāļāļēāļĢāļāđāļ§āļĒāļĄāļēāļāļāļ§āđāļēāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļēāļ§ āļāļēāļĢāđāļāļĨāļĩāđāļĒāļāļāļĢāđāļāļāļāļĩāļāļģāđāļŦāđāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāļāļĩāđāđāļāđāļĢāļąāļāđāļĨāļ·āļāļāđāļāļ·āđāļāļĢāļąāļāļāļēāļĢāļŠāļāļąāļāļŠāļāļļāļāļāļīāđāļĻāļĐāđāļāļīāđāļĄāļāļķāđāļāļāļēāļ 17.7% āđāļāđāļ 46.5% āđāļāļāļēāļĢāļĻāļķāļāļĐāļēāļāļĢāļąāđāļāļāļąāđāļ āļāļĨāļĨāļąāļāļāđāđāļāļĩāđāļĒāļ§āļāđāļāļāļāļąāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāđāļĨāļ°āļāļąāļ§āļāļĒāđāļēāļāđāļāļāļēāļ° āđāļĄāđāđāļāđāļāļļāļāļĢāļđāļāđāļāļāļāļēāļĢāļāļđāđāļĨāļŠāļļāļāļ āļēāļ
āļāļēāļĢāļĻāļķāļāļĐāļēāļĢāļēāļĒāļāļēāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāļāļĩāđāļāļēāļāļāļēāļĢāļāđāļāđāļēāđāļāđāļāđāļēāļĒāļāđāļēāļāļāļēāļĢāļĢāļąāļāļĐāļēāļāļĒāļēāļāļēāļĨ āļāļķāđāļāļāļđāļāđāļāđāđāļāđāļāļāļąāļ§āđāļāļāļāļ§āļēāļĄāļāđāļāļāļāļēāļĢāļāđāļēāļāļŠāļļāļāļ āļēāļ
āļĢāļēāļĒāļāļēāļāļāļāļąāļāļāļĩāđāļāļāļ§āđāļēāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāļĄāļĩāļāļēāļāļēāļĢāļāđāļ§āļĒāļĄāļēāļāļāļķāđāļāļāļēāļĄāļāļ°āđāļāļāļāļĩāđāļāļģāļŦāļāļ āđāļāļĒāļāļīāļāļēāļĢāļāļēāļāļēāļāļŠāļąāļāļāļēāļāļāļāļāļāļēāļĢāđāļāđāļāļāđāļ§āļĒāļāļĩāđāđāļĄāđāļŠāļēāļĄāļēāļĢāļāļāļ§āļāļāļļāļĄāđāļāđ
āļāļđāđāđāļāļĩāļĒāļāđāļāļ·āđāļāļĄāđāļĒāļāļāļāļāļīāļāļāļāļāļĢāđāļāļāļāļĩāļāļąāļāļāļēāļĢāļĨāļāļāļēāļĢāđāļāđāļāđāļēāļĒāđāļāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļģāđāļĄāļ·āđāļāđāļāļĩāļĒāļāļāļąāļāļāļđāđāļāđāļ§āļĒāļāļīāļ§āļāļēāļ§āļāļĩāđāļĄāļĩāļāļēāļāļēāļĢāļāļĨāđāļēāļĒāļāļąāļ
āļāļđāđāđāļāļĩāļĒāļāļĢāļēāļĒāļāļēāļāļ§āđāļēāļŠāļąāļāļŠāđāļ§āļāļāļ°āđāļāļīāđāļĄāļāļķāđāļāļāļēāļ 17.7% āđāļāđāļ 46.5% āļ āļēāļĒāđāļāđāđāļāđāļēāļŦāļĄāļēāļĒāļāļēāļāđāļĨāļ·āļāļ
āļāļāļāļ§āļēāļĄāļāļĩāđāļĢāļ°āļāļļāļāđāļāļāļļāļāđāļāļāļēāļāļ°āļāļąāļ§āđāļāļāļāđāļēāļāļŠāļļāļāļ āļēāļ āļāļķāđāļāđāļĄāđāđāļāđāļĢāļ°āļāļļāļāļķāļāļ āļēāļĢāļ°āļāļēāļĢāđāļāđāļēāļāļķāļāđāļĨāļ°āļāļēāļĢāđāļāđāļāļāđāļ§āļĒāļāļĩāđāđāļĄāđāđāļāđāļēāđāļāļĩāļĒāļĄāļāļąāļ
āđāļĢāļĩāļĒāļāļĢāļđāđāļāđāļāđāļ
āļāļģāđāļāļ°āļāļģāđāļāļīāđāļĄāđāļāļīāļĄāļāļĩāđāđāļĨāļ·āļāļāļŠāļģāļŦāļĢāļąāļāļŦāļąāļ§āļāđāļāļāļĩāđ
āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
āļāļāļāļīāđāļāļāļąāļĨāļāļāļĢāļīāļāļķāļĄāļāļēāļĢāļāļ§āļāļāļļāļĄāđāļāļ·āđāļāļŦāļē
āļŠāļąāļāļāļĄ