PRŮVODCE společností

Odpovědnost za nekalé praktiky, když lékaři používají AI

Když lékař používá umělou inteligenci a pacient je poškozen, soudy USA obecně posuzují odpovědnost prostřednictvím běžného zákona o lékařské nedbalosti.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost odpovědnosti za nekalé praktiky, když lékaři používají AI
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Otázkou je, zda klinik splnil standard péče, tedy co by za podobných okolností udělal rozumný klinik. Nástroj AI není sám o sobě žalovaným. Lékař a někdy nemocnice nebo vývojář softwaru mohou nést odpovědnost, takže to, jak lékaři dodržují, potlačují a dokumentují rady AI, určuje jejich právní expozici. Tato příručka vysvětluje obecné zásady a není právním poradenstvím.

Hluboký ponor

Nároky na zanedbání lékařské péče v USA obvykle vyžadují čtyři prvky: povinnost vůči pacientovi, porušení standardu péče, příčinnou souvislost porušení se zraněním a náhradu škody. Standard péče není sepsán na jednom místě. Obvykle se zakládá na základě odborných svědectví, odborných pokynů a běžné praxe a mění se tak, jak se mění medicína. V široce citované analýze JAMA z roku 2019 W. Nicholson Price, Sara Gerke a I. Glenn Cohen vysvětlili, jak současný zákon zachází s radami AI. Když AI doporučí standardní péči a lékař ji dodržuje, je lékař obecně chráněn. Nejrizikovějším případem je dodržování doporučení umělé inteligence, které se odchyluje od standardní péče, když je pak pacientovi poškozeno. Odmítnout správný, ale nestandardní návrh umělé inteligence je dnes obvykle obhajitelné, protože lékař zůstal v rámci uznávané praxe. Autoři poznamenali, že to nutí lékaře používat AI hlavně k potvrzení toho, co by stejně udělali. Jakmile se nástroje umělé inteligence stanou součástí uznávané praxe, jejich ignorování nebo nepoužívání by mohlo začít vypadat jako porušení. Odpovědnost mohou nést i další strany. Nemocnice mohou být zprostředkovaně zodpovědné za zaměstnance a mohou čelit stížnostem na firemní nedbalost ohledně toho, jak vybírají, ověřují a školí personál na nástroje. Vývojáři mohou čelit nárokům na odpovědnost za výrobek, ale ty je těžší vyhrát. Soudy často zacházely se softwarem spíše jako se službou než s produktem a naučená myšlenka zprostředkovatele tvrdí, že lékař stojí mezi nástrojem a pacientem. Běžné jsou dvě mylné představy. První je, že povolení FDA chrání lékaře. Propuštění cestou 510(k) obecně neblokuje nároky z nedbalosti státu a nedefinuje standard péče. Druhým je, že prodejce absorbuje riziko. Smlouvy často přesouvají odpovědnost zpět na zdravotní systém. Jen málo soudních rozhodnutí se přímo zabývá klinickou AI a výsledky se liší podle státu a země.

Real-World Implementace

Radiolog odmítne vlajku AI na jemném plicním uzlíku, aniž by si všiml proč. O rok později má pacient pokročilou rakovinu a žalobce tvrdí, že vlajka, viditelná v systémových protokolech, upozornila radiologa.

Pohotovostní lékař spoléhá na skóre nízkého rizika z modelu sepse a propouští pacienta, jehož vitální funkce jsou abnormální. Právní otázkou je, zda by se rozumný lékař spoléhal na toto skóre vzhledem k úplnému klinickému obrazu.

Nemocnice zavádí model zhoršení bez místního ověření nebo školení personálu. Po promeškaném zhoršení žaluje žalobce nemocnici za nedbalé provedení i ošetřující lékaře.

Lékař podepíše poznámku sepsanou okolním zapisovatelem AI, která zaznamenává nález vyšetření, který se nikdy nestal. Podepsaná poznámka je odpovědností lékaře a může poškodit jeho důvěryhodnost v soudních sporech.

Budoucnost odpovědnosti za nekalé praktiky, když lékaři používají AI

Judikatura v oblasti klinické umělé inteligence zůstává řídká, takže velká část dnešních analýz extrapoluje z obecné nedbalosti a zásad odpovědnosti za výrobek. Některé státy USA začaly vyžadovat zveřejnění, když se v určitých komunikacích s pacienty používá generativní umělá inteligence. Federální antidiskriminační pravidla nyní očekávají, že zahrnuté zdravotnické organizace vyvinou přiměřené úsilí k identifikaci a snížení rizik diskriminace z nástrojů podpory klinického rozhodování. Odborné společnosti zveřejňují pokyny, které mohou ovlivnit to, co soudy považují za přiměřenou praxi. Jak se validované nástroje stávají rutinou ve specializacích, jako je radiologie, standard péče se může posunout směrem k očekávání jejich použití, což by opět změnilo obraz odpovědnosti.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the Malpractice Liability When Doctors Use AI quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co je to odpovědnost za nekalé praktiky, když lékaři používají AI?

Když lékař používá umělou inteligenci a pacient je poškozen, soudy USA obecně posuzují odpovědnost prostřednictvím běžného zákona o lékařské nedbalosti. Otázkou je, zda klinik splnil standard péče, tedy co by za podobných okolností udělal rozumný klinik. Nástroj AI není sám o sobě žalovaným. Lékař a někdy nemocnice nebo vývojář softwaru mohou nést odpovědnost, takže to, jak lékaři dodržují, potlačují a dokumentují rady AI, určuje jejich právní expozici. Tato příručka vysvětluje obecné zásady a není právním poradenstvím.

Která sada uvádí čtyři prvky, které obvykle vyžaduje tvrzení USA o zanedbání povinné péče?

Zanedbání povinné péče je forma nedbalosti. Žalobce musí prokázat povinnost, porušení, příčinu a náhradu škody.

Podle analýzy JAMA z roku 2019, kterou provedli Price, Gerke a Cohen, který scénář s sebou nese nejvyšší riziko odpovědnosti pro lékaře?

Současné zákony omezují chování v rozporu se standardem péče, takže odchýlit se od něj na základě doporučení AI je nejexponovanější pozicí.

Proč může nezdokumentované odmítnutí vlajky AI ublížit lékaři u soudu?

Protokoly lze vyžádat v soudních sporech. Zdokumentovaný důvod nesouhlasu se obhajuje snáze než tiché propuštění.

Proč není povolení FDA 510(k) úplným štítem pro lékaře používající nástroj AI?

Clearance hovoří o marketingu zařízení, nikoli o tom, zda jej lékař použil pro daného pacienta přiměřeně.

Nemocnice nasadí model bez ověření nebo školení a pacient je poškozen. Jakou teorii by mohl žalobce použít proti nemocnici samotné?

Nemocnice mohou nést odpovědnost za svá vlastní institucionální selhání i zprostředkovaně za zaměstnance.