PRŮVODCE společností

Kdo nese odpovědnost, když AI způsobí škodu?

Když AI způsobí škodu, odpovědnost obvykle padá na lidi a společnosti spíše než na AI.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost toho, kdo nese odpovědnost, když AI způsobí škodu?
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Může to být firma, která jej nasadila, vývojář nebo výrobce vadného produktu nebo profesionál, který se na něj nedbale spoléhal, a nárok se obvykle vztahuje na stávající právní předpisy, jako je nedbalost, uvádění v omyl a odpovědnost za výrobek. Záleží na tom, protože soudy a zákonodárci nyní rozhodují o tom, jak se tato stará pravidla vztahují na software, který se učí a mění. V EU byla pravidla odpovědnosti za výrobek přepsána tak, aby zahrnovala software, včetně umělé inteligence.

Hluboký ponor

Většina nároků na poškození AI se hodí do tří známých právních cest. Nedbalost se ptá, zda někdo neprovedl přiměřenou péči, například nasazením systému bez adekvátního testování nebo monitorování. Zkreslování zahrnuje nepravdivá prohlášení firmy, včetně prohlášení učiněných prostřednictvím chatbota. Odpovědnost za výrobek může vést výrobce k přísné odpovědnosti za vadné výrobky, což znamená, že poškozená osoba nemusí prokazovat zavinění, pouze vadu, poškození a příčinnou souvislost. Případ Air Canada ukazuje nejjednodušší princip. V únoru 2024 Civil Resolution Tribunal shledal leteckou společnost odpovědnou za uvedení v omyl z nedbalosti poté, co její chatbot nesprávně uvedl, že poplatky za úmrtí mohou být požadovány zpětně. Ocenění bylo malé, zhruba 800 kanadských dolarů včetně úroků a poplatků, ale zdůvodnění je jasné: společnost je zodpovědná za všechny informace na svém webu, ať už pocházejí ze statické stránky nebo chatbota. V EU vstoupila v prosinci 2024 v platnost revidovaná směrnice o odpovědnosti za výrobky (EU) 2024/2853, která se vztahuje na produkty uvedené na trh od prosince 2026. Výslovně zachází se softwarem, včetně systémů AI, jako s produktem. Volný a open source software vyvinutý mimo komerční činnost je vyloučen. Krytá škoda nyní zahrnuje lékařsky uznanou psychickou újmu a zničení nebo poškození dat nepoužívaných pro profesionální účely. Soudy mohou nařídit zpřístupnění důkazů a předpokládat vadu nebo příčinnou souvislost tam, kde technická složitost ztěžuje dokazování. Samostatná směrnice o odpovědnosti za umělou inteligenci, navržená v roce 2022 s cílem usnadnit nároky založené na chybách, byla zrušena poté, co Komise v únoru 2025 oznámila, že neočekává žádnou dohodu. Obvyklá mylná představa je, že umělá inteligence vytváří právní vakuum. V praxi se uplatňují stávající doktríny, i když dokazování příčinných souvislostí u neprůhledných systémů zůstává obtížné.

Real-World Implementace

Ve věci Moffatt versus Air Canada (2024) soud v Britské Kolumbii přisoudil letecké společnosti k odpovědnosti poté, co její webový chatbot poskytl nesprávné informace o tarifech při úmrtí. Odmítla argument, že za svá prohlášení je odpovědný chatbot.

Ve věci Mata v. Avianca (2023) byli právníci v New Yorku potrestáni za podání návrhu s falešnými citacemi případů, které vytvořil ChatGPT. Soud považoval odborníky za odpovědné za kontrolu jejich podání.

Podle revidované směrnice EU o odpovědnosti za výrobek může osoba zraněná vadným zdravotnickým zařízením s umělou inteligencí nebo robotem požadovat náhradu od výrobce, aniž by prokazovala zavinění.

V Garcia v. Character Technologies rodina tvrdila, že design chatbota přispěl ke smrti teenagera. V roce 2025 nechal americký federální soudce stížnosti na odpovědnost za výrobek projít po předběžném návrhu na zamítnutí a testoval, zda lze s aplikacemi chatbotů zacházet jako s produkty.

Budoucnost toho, kdo nese odpovědnost, když AI způsobí škodu?

Očekávejte další soudní spory, které testují, zda se generativní výstupy umělé inteligence počítají jako produkty, jakou ochranu poskytuje americký oddíl 230 obsahu generovanému umělou inteligencí a jak soudy řeší příčinné souvislosti u neprůhledných systémů. V EU se revidovaná směrnice o odpovědnosti za výrobek začne vztahovat na nové výrobky od konce roku 2026 a vnitrostátní soudy začnou vykládat její domněnky. Stažená směrnice o odpovědnosti za umělou inteligenci prozatím ponechává nároky založené na zavinění na vnitrostátním právu, takže výsledky se mohou mezi zeměmi lišit. Pro organizace bude pečlivá dokumentace a lidský dohled pravděpodobně důležitější než jakýkoli nový zákon.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the Who Is Liable When AI Causes Harm? quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Kdo nese odpovědnost, když AI způsobí škodu?

Když AI způsobí škodu, odpovědnost obvykle padá na lidi a společnosti spíše než na AI. Může to být firma, která jej nasadila, vývojář nebo výrobce vadného produktu nebo profesionál, který se na něj nedbale spoléhal, a nárok se obvykle vztahuje na stávající právní předpisy, jako je nedbalost, uvádění v omyl a odpovědnost za výrobek. Záleží na tom, protože soudy a zákonodárci nyní rozhodují o tom, jak se tato stará pravidla vztahují na software, který se učí a mění. V EU byla pravidla odpovědnosti za výrobek přepsána tak, aby zahrnovala software, včetně umělé inteligence.

Jak rozhodl tribunál ve věci Moffatt versus Air Canada?

Tribunál zjistil nepravdivé prohlášení z nedbalosti a rozhodl, že společnost je odpovědná za veškeré informace na svých webových stránkách, včetně odpovědí chatbotů.

Co znamená přísná odpovědnost za výrobek?

Objektivní odpovědnost odstraňuje nutnost prokazovat neopatrnost, což usnadňuje poškozeným vymáhání odškodnění.

Jak se softwarem zachází revidovaná směrnice EU o odpovědnosti za výrobek?

Směrnice (EU) 2024/2853 zahrnuje software do odpovědnosti za produkt. Volný a open source software vyvinutý mimo komerční činnost je vyloučen.

Co se stalo s navrhovanou směrnicí EU o odpovědnosti za umělou inteligenci?

Komise upustila od návrhu, který prozatím ponechává nároky na umělou inteligenci založenou na chybách na vnitrostátních právních předpisech.

Na jaký nový typ škod se revidovaná směrnice EU vztahuje?

Krytá škoda nyní zahrnuje ztrátu nebo poškození dat nepoužívaných pro profesionální účely, stejně jako lékařsky uznanou psychickou újmu.