Ansvar for feilbehandling når leger bruker kunstig intelligens

Krav om medisinsk feilbehandling i USA krever vanligvis fire elementer: en plikt overfor pasienten, et brudd på standarden for omsorg, årsakssammenheng som knytter bruddet til skaden og skader. Omsorgsstandarden er ikke skrevet på ett sted. Det er typisk etablert gjennom ekspertvitne, faglige retningslinjer og vanlig praksis, og det endres etter hvert som medisinen endres. I en mye sitert JAMA-analyse fra 2019 la W. Nicholson Price, Sara Gerke og I. Glenn Cohen ut hvordan gjeldende lov behandler AI-råd. Når en AI anbefaler standardbehandling og legen følger den, er legen generelt beskyttet. Det mest risikofylte tilfellet er å følge en AI-anbefaling som avviker fra standardbehandling når pasienten så blir skadet. Å avvise et korrekt men ikke-standard AI-forslag er vanligvis forsvarlig i dag, fordi legen holdt seg innenfor akseptert praksis. Forfatterne bemerket at dette presser klinikere til å bruke AI hovedsakelig for å bekrefte hva de uansett ville gjøre. Etter hvert som AI-verktøy blir en del av akseptert praksis, kan det å ignorere eller unnlate å bruke dem begynne å se ut som et brudd. Andre parter kan også være ansvarlige. Sykehus kan være stedfortredende ansvarlige for ansatte og kan møte uaktsomhetskrav fra bedrifter om hvordan de velger, validerer og lærer opp ansatte på verktøy. Utviklere kan møte produktansvarskrav, men det er vanskeligere å vinne. Domstoler har ofte behandlet programvare som en tjeneste i stedet for et produkt, og den lærte mellomleddsideen mener at klinikeren står mellom verktøyet og pasienten. To misoppfatninger er vanlige. Den første er at FDA-godkjenning beskytter legen. Godkjenning gjennom 510(k)-veien blokkerer vanligvis ikke statlige uaktsomhetskrav, og den definerer ikke standarden for omsorg. Det andre er at leverandøren absorberer risikoen. Kontrakter flytter ofte ansvaret tilbake til helsesystemet. Få rettsavgjørelser omhandler klinisk AI direkte, og utfallene varierer fra stat og land.