ДаліНаступний посібник
Коли клієнти терапії використовують AI Chatbots
суспільство
Суспільство GUIDE
Відповідальність за недбалість, коли лікарі використовують ШІ
Коли лікар використовує штучний інтелект і пацієнту завдано шкоди, суди США зазвичай розглядають відповідальність за звичайним законом про медичну недбалість.
На цій сторінці4 хвилини читання
Огляд
Питання в тому, чи відповідав клініцист стандартам медичної допомоги, тобто що розумний клініцист зробив би за подібних обставин. Інструмент ШІ не є відповідачем сам по собі. Лікар, а іноді й лікарня чи розробник програмного забезпечення можуть нести відповідальність, тому те, як клініцисти дотримуються, ігнорують і документують поради штучного інтелекту, формує їхню юридичну відповідальність. Цей посібник пояснює загальні принципи і не є юридичною порадою.
Глибоке занурення
Позови про медичну недбалість у США зазвичай вимагають чотирьох елементів: обов’язок перед пацієнтом, порушення стандартів медичної допомоги, причинно-наслідковий зв’язок порушення з травмою та відшкодування збитків. Стандарт догляду не розписаний в одному місці. Як правило, це встановлюється за допомогою експертних свідчень, професійних рекомендацій і загальноприйнятої практики, і воно змінюється зі змінами в медицині. У широко цитованому аналізі JAMA 2019 року В. Ніколсон Прайс, Сара Герке та І. Гленн Коен виклали, як чинне законодавство трактує поради щодо ШІ. Коли штучний інтелект рекомендує стандартну допомогу, а лікар її дотримується, лікар, як правило, захищений. Найризикованішим випадком є дотримання рекомендацій штучного інтелекту, які відрізняються від стандартного догляду, коли пацієнту завдано шкоди. Відхилення правильної, але нестандартної пропозиції штучного інтелекту сьогодні зазвичай виправдано, тому що лікар залишався в рамках прийнятої практики. Автори відзначили, що це спонукає клініцистів використовувати штучний інтелект головним чином для підтвердження того, що вони все одно робитимуть. Оскільки інструменти штучного інтелекту стають частиною загальноприйнятої практики, їх ігнорування або невикористання може почати виглядати як порушення. Інші сторони також можуть нести відповідальність. Лікарні можуть нести повну відповідальність за працівників і можуть зіткнутися з претензіями щодо корпоративної недбалості щодо того, як вони відбирають, перевіряють і навчають персонал інструментам. Розробники можуть зіткнутися з претензіями щодо відповідальності за продукт, але їх важче виграти. Суди часто розглядають програмне забезпечення як послугу, а не як продукт, і вивчена ідея посередника стверджує, що клініцист стоїть між інструментом і пацієнтом. Поширені два помилкові уявлення. По-перше, дозвіл FDA захищає лікаря. Дозвіл через шлях 510(k) загалом не блокує державні претензії щодо недбалості та не визначає стандарт медичної допомоги. По-друге, постачальник бере на себе ризик. Контракти часто покладають відповідальність на систему охорони здоров’я. Кілька судових рішень безпосередньо стосуються клінічного штучного інтелекту, і результати залежать від штату та країни.
Стратегічний вплив
Ризики та безпека
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Чіткіші рішення
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Прорізаючи ажіотаж
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Майбутнє відповідальності за недбалість, коли лікарі використовують ШІ
Прецедентне право щодо клінічного штучного інтелекту залишається рідкісним, тому більшість сьогоднішнього аналізу базується на загальних принципах недбалості та відповідальності за продукт. Деякі штати США почали вимагати розкриття інформації про використання генеративного штучного інтелекту в певних комунікаціях з пацієнтами. Федеральні правила щодо недискримінації тепер передбачають, що охоплені організації охорони здоров’я докладатимуть розумних зусиль для виявлення та зменшення ризиків дискримінації через інструменти підтримки клінічних рішень. Професійні товариства публікують рекомендації, які можуть вплинути на те, що суди вважають розумною практикою. Оскільки валідовані інструменти стають звичними для таких спеціальностей, як радіологія, стандарт медичної допомоги може змінитися в бік очікуваного їх використання, що знову змінить картину відповідальності.
Реалізація в реальному світі
Рентгенолог відхиляє позначку штучного інтелекту на тонкому вузлику в легенях, не зазначаючи, чому. Рік потому у пацієнта прогресує рак, і позивач стверджує, що позначка, видима в системних журналах, сповістила радіолога.
Лікар невідкладної допомоги покладається на оцінку низького ризику, отриману за моделлю сепсису, і виписує пацієнта з відхиленнями життєвих показників. Юридичне питання полягає в тому, чи розумний лікар покладався б на цю оцінку, враховуючи повну клінічну картину.
Лікарня розгортає модель погіршення без місцевої перевірки чи навчання персоналу. Після пропущеного погіршення позивач подає до суду на лікарню за недбале виконання, а також на лікуючих лікарів.
Клініцист підписує записку, складену навколишнім писарем ШІ, яка фіксує результат обстеження, якого ніколи не було. Підписана записка є відповідальністю лікаря і може зашкодити довірі до нього під час судового розгляду.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Malpractice Liability When Doctors Use AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часті запитання
Що таке відповідальність за недбалість, коли лікарі використовують ШІ?
Коли лікар використовує штучний інтелект і пацієнту завдано шкоди, суди США зазвичай розглядають відповідальність згідно зі звичайним законом про медичну недбалість. Питання в тому, чи відповідав клініцист стандартам медичної допомоги, тобто що розумний клініцист зробив би за подібних обставин. Інструмент ШІ не є відповідачем сам по собі. Лікар, а іноді й лікарня чи розробник програмного забезпечення можуть нести відповідальність, тому те, як клініцисти дотримуються, ігнорують і документують поради штучного інтелекту, формує їхню юридичну відповідальність. Цей посібник пояснює загальні принципи і не є юридичною порадою.
У якому наборі перелічено чотири елементи, які зазвичай вимагаються для позову США про службову недбалість?
Недбалість є формою недбалості. Позивач повинен продемонструвати обов'язок, порушення, причинний зв'язок і збитки.
Згідно з аналізом JAMA за 2019 рік, проведеним Прайсом, Герке та Коеном, який сценарій несе найвищий ризик відповідальності для лікаря?
Заходи чинного законодавства суперечать стандартам медичної допомоги, тому відхід від них за порадою ШІ є найбільш схильним до ризику.
Чому незадокументоване звільнення прапора ШІ може завдати шкоди клініцисту в суді?
Журнали можна вимагати в судовому процесі. Документально підтверджену причину незгоди легше захистити, ніж мовчазне звільнення.
Чому дозвіл FDA 510(k) не є повним захистом для лікаря, який використовує інструмент ШІ?
Дозвіл говорить про маркетинг пристрою, а не про те, чи лікар розумно використовував його для даного пацієнта.
Лікарня розгортає модель без перевірки чи навчання, і пацієнт зазнає шкоди. Яку теорію може застосувати позивач проти самої лікарні?
Лікарні можуть нести відповідальність за власні інституційні збої, а також за інших працівників.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми