Odpovědnost za nekalé praktiky, když lékaři používají AI

Nároky na zanedbání lékařské péče v USA obvykle vyžadují čtyři prvky: povinnost vůči pacientovi, porušení standardu péče, příčinnou souvislost porušení se zraněním a náhradu škody. Standard péče není sepsán na jednom místě. Obvykle se zakládá na základě odborných svědectví, odborných pokynů a běžné praxe a mění se tak, jak se mění medicína. V široce citované analýze JAMA z roku 2019 W. Nicholson Price, Sara Gerke a I. Glenn Cohen vysvětlili, jak současný zákon zachází s radami AI. Když AI doporučí standardní péči a lékař ji dodržuje, je lékař obecně chráněn. Nejrizikovějším případem je dodržování doporučení umělé inteligence, které se odchyluje od standardní péče, když je pak pacientovi poškozeno. Odmítnout správný, ale nestandardní návrh umělé inteligence je dnes obvykle obhajitelné, protože lékař zůstal v rámci uznávané praxe. Autoři poznamenali, že to nutí lékaře používat AI hlavně k potvrzení toho, co by stejně udělali. Jakmile se nástroje umělé inteligence stanou součástí uznávané praxe, jejich ignorování nebo nepoužívání by mohlo začít vypadat jako porušení. Odpovědnost mohou nést i další strany. Nemocnice mohou být zprostředkovaně zodpovědné za zaměstnance a mohou čelit stížnostem na firemní nedbalost ohledně toho, jak vybírají, ověřují a školí personál na nástroje. Vývojáři mohou čelit nárokům na odpovědnost za výrobek, ale ty je těžší vyhrát. Soudy často zacházely se softwarem spíše jako se službou než s produktem a naučená myšlenka zprostředkovatele tvrdí, že lékař stojí mezi nástrojem a pacientem. Běžné jsou dvě mylné představy. První je, že povolení FDA chrání lékaře. Propuštění cestou 510(k) obecně neblokuje nároky z nedbalosti státu a nedefinuje standard péče. Druhým je, že prodejce absorbuje riziko. Smlouvy často přesouvají odpovědnost zpět na zdravotní systém. Jen málo soudních rozhodnutí se přímo zabývá klinickou AI a výsledky se liší podle státu a země.