NesteNeste guide
AI Fallrisikoprediksjon på sykehus
Industrier
SamfunnsGUIDE
AI i selvmordsrisikoprediksjon
AI selvmordsrisikoprediksjon bruker statistiske og maskinlæringsmodeller bygget på helsejournaler for å estimere hvilke pasienter som har en høyere sjanse for et selvmordsforsøk eller død i de kommende månedene, slik at helsesystemer kan prioritere oppsøking og vurdering.
På denne siden4 min lesing
Oversikt
Det betyr noe fordi mange mennesker som dør av selvmord oppsøkte en helsepersonell året før, og klinikeres uhjelpte spådommer har vist seg bare litt bedre enn tilfeldigheter. Selv sterke modeller flagger langt flere mennesker som ikke vil forsøke selvmord enn folk som vil.
Dypdykk
De fleste helsesystemmodeller trekker på data allerede i den elektroniske journalen: tidligere selvmordsforsøk og selvskadingsdiagnoser, psykiske helse- og rusdiagnoser, resepter, akuttbesøk og døgnopphold, og screeningssvar som punkt 9 i PHQ-9, som spør om tanker om død eller selvskading. Metoder spenner fra straffet logistisk regresjon til tilfeldige skoger og gradientforsterkede trær. Velkjent innsats inkluderer modeller fra Mental Health Research Network, som inkluderer Kaiser Permanente-nettsteder, arbeid ved Vanderbilt University Medical Center, og VAs REACH VET, lansert i 2017, som flagger omtrent de øverste 0,1 prosentene av risikoskårene for vurdering. Flere store studier rapporterer om god diskriminering, noe som betyr at modellene rangerer pasienter med høyere risiko over pasienter med lavere risiko rimelig godt. Den største misforståelsen er at disse modellene forutsier hvem som vil dø. Det gjør de ikke. Selvmord er sjelden i en gitt måned, så selv en nøyaktig modell produserer for det meste falske positiver; de fleste flaggede pasienter vil aldri forsøke. Modellene forstås best som verktøy for å prioritere begrenset klinisk oppmerksomhet. Det gjør svaret på et flagg til det virkelige etiske spørsmålet. God praksis behandler et flagg som en grunn til omsorg, frivillig oppsøking: en innsjekking, en gjennomgang av omsorgsplanen, sikkerhetsplanlegging og diskusjon av grenser for tilgang til dødelige midler som sikker oppbevaring av skytevåpen. Dårlig praksis bruker flagg straffende eller tvangsmessig, deler dem utenfor klinisk behandling, eller lar dem være uforklarlige for pasienter. Helsesystemer må også teste ytelse på tvers av rase-, etniske, alders- og kjønnsgrupper, fordi en modell som er trent på tidligere dokumenter, arver hull i hvem som ble diagnostisert og behandlet. Utenfor helsevesenet har plattformer som Facebook brukt automatisert deteksjon av selvmordsposter siden 2017, med mye mindre offentlig validering.
Strategisk innvirkning
Risiko og sikkerhet
Katastrofale og hverdagslige AI-skader avhenger begge av hvem som forstår risikoen og hvem som kan handle.
Tydeligere avgjørelser
Offentlig og faglig kompetanse former om sterk sikkerhetspolitikk er politisk mulig.
Skjærer gjennom hypen
Tydelige forklaringer reduserer fangst av hype, laboratorie-PR og vagt etikkteater.
Fremtiden til AI i selvmordsrisikoprediksjon
Forskere utforsker rikere input, for eksempel kliniske notater behandlet med språkmodeller, sammen med tradisjonelle strukturerte data, selv om flere input øker personvernbekymringer og ikke garanterer bedre resultater. Det sentrale åpne spørsmålet handler mindre om nøyaktighet enn om effekt: om flaggdrevne programmer reduserer selvmordsforsøk og dødsfall sammenlignet med god vanlig omsorg. Forvent mer vekt på rettferdighetsrevisjoner, åpenhet med pasienter og sammenkobling av modeller med velprøvde intervensjoner som sikkerhetsplanlegging og oppfølgingskontakter. Påstander om dramatiske nøyaktighetsgevinster bør vurderes ut fra prospektive resultater, ikke retrospektive.
Real-World Implementering
US Department of Veterans Affairs' REACH VET-program scorer veteraner i VA-pleie hver måned, og en lokal koordinator gjennomgår gruppen med høyest risiko med sine leverandører for å sjekke omsorgsplaner og avtale kontakt.
Et helsesystem viser en risikoscore ved polikliniske mentale helsebesøk, noe som får klinikeren til å utføre en strukturert vurdering som Columbia Suicide Severity Rating Scale i stedet for å stole på poengsummen alene.
En akuttmottak bruker et modellflagg for å utløse et sikkerhetsplanleggingsinngrep før utskrivning, etterfulgt av omsorgsfulle kontakter som korte oppfølgingsmeldinger.
Et helsesystem reviderer modellen sin, finner at den presterer dårligere for én demografisk gruppe, og rekalibrerer den før den utvider bruken.
Risikoer og rekkverk
Behandling av eksistensiell risiko som sci-fi mens evnesammensetninger.
Forvirrende overflateproduktsikkerhet med justering under høy autonomi.
Etterlater ikke-engelske og ikke-eksperter med kun kilder av lav kvalitet.
Veikart for implementering
Separate risikoer for produktskade, misbruk og tap av kontroll/feiljustering.
Spør hvilke bevis som vil endre ditt syn på tidslinjer og alvorlighetsgrad.
Foretrekk primære kilder og konkrete vurderinger fremfor markedsføringspåstander.
Identifiser én handlingsvei: karriere, politikk, finansiering eller ferdigheter – ikke bare bevissthet.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Suicide Risk Prediction quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Ofte stilte spørsmål
Hva er AI i selvmordsrisikoprediksjon?
AI selvmordsrisikoprediksjon bruker statistiske og maskinlæringsmodeller bygget på helsejournaler for å estimere hvilke pasienter som har en høyere sjanse for et selvmordsforsøk eller død i de kommende månedene, slik at helsesystemer kan prioritere oppsøking og vurdering. Det betyr noe fordi mange mennesker som dør av selvmord oppsøkte en helsepersonell året før, og klinikeres uhjelpte spådommer har vist seg bare litt bedre enn tilfeldigheter. Selv sterke modeller flagger langt flere mennesker som ikke vil forsøke selvmord enn folk som vil.
En modell med 90 prosent sensitivitet og spesifisitet brukes der 100 av 100 000 pasienter forsøker selvmord. Omtrent hvilken andel av flaggede pasienter vil faktisk forsøke?
Den fanger rundt 90 sanne tilfeller, men flagger også rundt 9 990 personer som ikke vil forsøke, slik at positiv prediktiv verdi faller under 1 prosent.
Hva er selvmordsrisikomodeller best forstått som ifølge veilederen?
Fordi selvmord er sjelden, flagger selv nøyaktige modeller for det meste folk som ikke vil forsøke. De hjelper til med å bestemme hvor de skal fokusere oppsøkende, ikke hvem som skal dø.
Omtrent hvilken andel av risikoskårene flagger VAs REACH VET-program for gjennomgang?
REACH VET, lansert i 2017, flagger omtrent de øverste 0,1 prosentene for vurdering av en lokal koordinator og leverandører.
Hvorfor setter helsesystemer ofte flaggingsgrenser etter kapasitet?
Et flagg er bare nyttig hvis noen kan handle på det, så terskler er tilpasset det oppsøkende personalet som er tilgjengelig.
Hvilken respons på et risikoflagg passer til den etiske praksisen beskrevet i veiledningen?
God praksis behandler et flagg som en grunn til omsorgsfull, frivillig kontakt, inkludert sikkerhet, snarere enn straff eller tvangshandling.
Fortsett å lære
Relaterte guider
Flere guider valgt for dette emnet