DalšíDalší průvodce
Předpojatost v algoritmech moderování obsahu
Společnost
PRŮVODCE společností
A 2019 Science study found racial bias in a widely used population-health algorithm because it predicted future healthcare costs as a proxy for health need.
Poslechněte si tento návodAI-vyprávěný · ~3 min
At the same risk score, Black patients were sicker than White patients; changing the proxy increased Black patients selected for extra support from 17.7% to 46.5% in that study. The result concerns a specific algorithm and sample, not every healthcare model.
Obermeyer and coauthors’ 2019 Science study examined a commercial algorithm used to identify patients with complex health needs for extra care-management support. The tool predicted future healthcare spending as a proxy for health need. The authors found that, at a given risk score, Black patients were considerably sicker than White patients, as measured by uncontrolled illness. The study’s mechanism was structural: because Black patients had historically received less care and generated lower costs at similar levels of illness, a cost-prediction target understated their need. The proxy appeared predictive of spending while encoding unequal access to care. In the study population, replacing the cost target with a measure more closely related to illness would have increased the proportion of Black patients receiving additional help from 17.7% to 46.5%. That figure describes the study’s reallocation result, not a nationwide estimate or a general expected correction rate. The research affected an algorithm used across multiple health systems and drew attention to how proxies can transmit inequity without explicitly including race. It did not show that every use of cost data is biased or that the same pattern appears in every model. The broader lesson is to examine whether a target variable represents the desired construct. Expenditure reflects illness, but also insurance, access, clinician decisions, service availability and historical patterns. A model can be statistically accurate for its proxy and still fail the operational objective of identifying people who need care. Follow-up audits should assess patient-level health outcomes, access to interventions and subgroup effects, while recognizing that the 2019 result is specific to one algorithm, intended use and dataset.
Zdravotní systém kontroluje, zda historické výdaje odrážejí nerovný přístup k péči, než použije náklady na přidělení zvláštní podpory na zvládání onemocnění.
Modelový tým spíše porovnává předpokládané náklady s klinickými potřebami a výsledky napříč rasovými skupinami, než aby výdaje považoval za neutrální označení zdraví.
Recenzent zkontroluje, zda skóre rizika podhodnocuje černošské pacienty, kteří mají srovnatelnou nebo vyšší nemocnost.
Správní výbor zopakuje hodnocení poté, co změní cíl z ceny na klinicky podloženou míru potřeby.
Studie zůstává důležitým příkladem zkreslení proxy-cíl, zatímco pozdější systémy a datové soubory vyžadují vlastní hodnocení. Zdravotní systémy by měly pravidelně znovu kontrolovat cíle, přístupové vzorce a výsledky, jak se modely nebo programy péče mění; nezobecňujte výsledek z roku 2019 na jiný algoritmus bez důkazů. Uchovávejte datovaný záznam primárního zdroje nebo studie za každým tvrzením a znovu se podívejte na závěry, když se objeví nové důkazy nebo podrobnosti o implementaci. Jak se mění způsoby péče a pojistné krytí, údaje o nákladech a využití se mohou měnit nezávisle na zátěži základním onemocněním.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
A 2019 Science study found racial bias in a widely used population-health algorithm because it predicted future healthcare costs as a proxy for health need. At the same risk score, Black patients were sicker than White patients; changing the proxy increased Black patients selected for extra support from 17.7% to 46.5% in that study. The result concerns a specific algorithm and sample, not every healthcare model.
Studie uvádí algoritmus předpokládané náklady na zdravotní péči, které byly použity jako proxy pro zdravotní potřeby.
Práce zjistila, že černí pacienti byli v daném skóre nemocnější na základě známek nekontrolované nemoci.
Autoři spojují zaujatost proxy s nižšími výdaji u černých pacientů ve srovnání s bílými pacienty s podobným onemocněním.
Autoři uvádějí, že podíl by se v rámci alternativního cíle zvýšil ze 17,7 % na 46,5 %.
The paper identifies cost as a proxy for health, which did not capture unequal access and illness burden.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Předpojatost v algoritmech moderování obsahu
Společnost