DalšíDalší průvodce
Odpovědnost za nekalé praktiky, když lékaři používají AI
Společnost
PRŮVODCE společností
Když AI způsobí škodu, odpovědnost obvykle padá na lidi a společnosti spíše než na AI.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Může to být firma, která jej nasadila, vývojář nebo výrobce vadného produktu nebo profesionál, který se na něj nedbale spoléhal, a nárok se obvykle vztahuje na stávající právní předpisy, jako je nedbalost, uvádění v omyl a odpovědnost za výrobek. Záleží na tom, protože soudy a zákonodárci nyní rozhodují o tom, jak se tato stará pravidla vztahují na software, který se učí a mění. V EU byla pravidla odpovědnosti za výrobek přepsána tak, aby zahrnovala software, včetně umělé inteligence.
Většina nároků na poškození AI se hodí do tří známých právních cest. Nedbalost se ptá, zda někdo neprovedl přiměřenou péči, například nasazením systému bez adekvátního testování nebo monitorování. Zkreslování zahrnuje nepravdivá prohlášení firmy, včetně prohlášení učiněných prostřednictvím chatbota. Odpovědnost za výrobek může vést výrobce k přísné odpovědnosti za vadné výrobky, což znamená, že poškozená osoba nemusí prokazovat zavinění, pouze vadu, poškození a příčinnou souvislost. Případ Air Canada ukazuje nejjednodušší princip. V únoru 2024 Civil Resolution Tribunal shledal leteckou společnost odpovědnou za uvedení v omyl z nedbalosti poté, co její chatbot nesprávně uvedl, že poplatky za úmrtí mohou být požadovány zpětně. Ocenění bylo malé, zhruba 800 kanadských dolarů včetně úroků a poplatků, ale zdůvodnění je jasné: společnost je zodpovědná za všechny informace na svém webu, ať už pocházejí ze statické stránky nebo chatbota. V EU vstoupila v prosinci 2024 v platnost revidovaná směrnice o odpovědnosti za výrobky (EU) 2024/2853, která se vztahuje na produkty uvedené na trh od prosince 2026. Výslovně zachází se softwarem, včetně systémů AI, jako s produktem. Volný a open source software vyvinutý mimo komerční činnost je vyloučen. Krytá škoda nyní zahrnuje lékařsky uznanou psychickou újmu a zničení nebo poškození dat nepoužívaných pro profesionální účely. Soudy mohou nařídit zpřístupnění důkazů a předpokládat vadu nebo příčinnou souvislost tam, kde technická složitost ztěžuje dokazování. Samostatná směrnice o odpovědnosti za umělou inteligenci, navržená v roce 2022 s cílem usnadnit nároky založené na chybách, byla zrušena poté, co Komise v únoru 2025 oznámila, že neočekává žádnou dohodu. Obvyklá mylná představa je, že umělá inteligence vytváří právní vakuum. V praxi se uplatňují stávající doktríny, i když dokazování příčinných souvislostí u neprůhledných systémů zůstává obtížné.
Ve věci Moffatt versus Air Canada (2024) soud v Britské Kolumbii přisoudil letecké společnosti k odpovědnosti poté, co její webový chatbot poskytl nesprávné informace o tarifech při úmrtí. Odmítla argument, že za svá prohlášení je odpovědný chatbot.
Ve věci Mata v. Avianca (2023) byli právníci v New Yorku potrestáni za podání návrhu s falešnými citacemi případů, které vytvořil ChatGPT. Soud považoval odborníky za odpovědné za kontrolu jejich podání.
Podle revidované směrnice EU o odpovědnosti za výrobek může osoba zraněná vadným zdravotnickým zařízením s umělou inteligencí nebo robotem požadovat náhradu od výrobce, aniž by prokazovala zavinění.
V Garcia v. Character Technologies rodina tvrdila, že design chatbota přispěl ke smrti teenagera. V roce 2025 nechal americký federální soudce stížnosti na odpovědnost za výrobek projít po předběžném návrhu na zamítnutí a testoval, zda lze s aplikacemi chatbotů zacházet jako s produkty.
Očekávejte další soudní spory, které testují, zda se generativní výstupy umělé inteligence počítají jako produkty, jakou ochranu poskytuje americký oddíl 230 obsahu generovanému umělou inteligencí a jak soudy řeší příčinné souvislosti u neprůhledných systémů. V EU se revidovaná směrnice o odpovědnosti za výrobek začne vztahovat na nové výrobky od konce roku 2026 a vnitrostátní soudy začnou vykládat její domněnky. Stažená směrnice o odpovědnosti za umělou inteligenci prozatím ponechává nároky založené na zavinění na vnitrostátním právu, takže výsledky se mohou mezi zeměmi lišit. Pro organizace bude pečlivá dokumentace a lidský dohled pravděpodobně důležitější než jakýkoli nový zákon.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Když AI způsobí škodu, odpovědnost obvykle padá na lidi a společnosti spíše než na AI. Může to být firma, která jej nasadila, vývojář nebo výrobce vadného produktu nebo profesionál, který se na něj nedbale spoléhal, a nárok se obvykle vztahuje na stávající právní předpisy, jako je nedbalost, uvádění v omyl a odpovědnost za výrobek. Záleží na tom, protože soudy a zákonodárci nyní rozhodují o tom, jak se tato stará pravidla vztahují na software, který se učí a mění. V EU byla pravidla odpovědnosti za výrobek přepsána tak, aby zahrnovala software, včetně umělé inteligence.
Tribunál zjistil nepravdivé prohlášení z nedbalosti a rozhodl, že společnost je odpovědná za veškeré informace na svých webových stránkách, včetně odpovědí chatbotů.
Objektivní odpovědnost odstraňuje nutnost prokazovat neopatrnost, což usnadňuje poškozeným vymáhání odškodnění.
Směrnice (EU) 2024/2853 zahrnuje software do odpovědnosti za produkt. Volný a open source software vyvinutý mimo komerční činnost je vyloučen.
Komise upustila od návrhu, který prozatím ponechává nároky na umělou inteligenci založenou na chybách na vnitrostátních právních předpisech.
Krytá škoda nyní zahrnuje ztrátu nebo poškození dat nepoužívaných pro profesionální účely, stejně jako lékařsky uznanou psychickou újmu.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Odpovědnost za nekalé praktiky, když lékaři používají AI
Společnost