ДалееСледующее руководство
Когда клиенты терапии используют чат-ботов с искусственным интеллектом
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Ответственность за врачебную халатность, когда врачи используют ИИ
Когда врач использует ИИ и пациенту причиняется вред, суды США обычно определяют ответственность на основании обычного закона о медицинской халатности.
На этой странице4 минуты чтения
Обзор
Вопрос в том, соответствует ли врач стандарту медицинской помощи, то есть, что бы сделал разумный врач в аналогичных обстоятельствах. Инструмент искусственного интеллекта сам по себе не является ответчиком. Ответственность может нести врач, а иногда и больница или разработчик программного обеспечения, поэтому то, как врачи следуют, игнорируют и документируют рекомендации ИИ, влияет на их правовую уязвимость. Данное руководство объясняет общие принципы и не является юридической консультацией.
Глубокое погружение
Иски о медицинской халатности в США обычно требуют четырех элементов: обязанности перед пациентом, нарушение стандартов медицинской помощи, причинно-следственная связь, связывающая нарушение с травмой, и возмещение ущерба. Стандарт медицинского обслуживания не прописан в одном месте. Обычно оно устанавливается на основе показаний экспертов, профессиональных рекомендаций и общепринятой практики и меняется по мере изменения медицины. В широко цитируемом анализе JAMA 2019 года У. Николсон Прайс, Сара Герке и И. Гленн Коэн изложили, как действующее законодательство относится к советам по ИИ. Когда ИИ рекомендует стандартную помощь и врач ей следует, врач, как правило, защищен. Самый рискованный случай — следование рекомендациям ИИ, которые отходят от стандартного ухода, когда пациенту причиняется вред. Отвержение правильного, но нестандартного предложения ИИ сегодня обычно оправдано, поскольку врач придерживался принятой практики. Авторы отметили, что это подталкивает клиницистов использовать ИИ главным образом для подтверждения того, что они в любом случае будут делать. Поскольку инструменты ИИ становятся частью общепринятой практики, игнорирование или неиспользование их само по себе может начать выглядеть как нарушение. Другие стороны также могут нести ответственность. Больницы могут нести субсидиарную ответственность за сотрудников и могут столкнуться с исками о корпоративной халатности в отношении того, как они выбирают, проверяют и обучают персонал работе с инструментами. Разработчики могут столкнуться с исками об ответственности за качество продукции, но их труднее выиграть. Суды часто рассматривают программное обеспечение как услугу, а не продукт, и идея научного посредника гласит, что врач стоит между инструментом и пациентом. Распространены два заблуждения. Во-первых, разрешение FDA защищает врача. Освобождение по закону 510(k) обычно не блокирует заявления штата о халатности и не определяет стандарт оказания медицинской помощи. Во-вторых, поставщик берет на себя риск. Контракты часто перекладывают ответственность обратно на систему здравоохранения. Лишь немногие судебные решения напрямую касаются клинического ИИ, а результаты варьируются в зависимости от штата и страны.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее ответственности за врачебную халатность, когда врачи используют ИИ
Прецедентное право по клиническому ИИ остается скудным, поэтому большая часть сегодняшнего анализа экстраполируется на общие принципы халатности и ответственности за качество продукции. Некоторые штаты США начали требовать раскрытия информации, когда генеративный ИИ используется в некоторых случаях общения с пациентами. Федеральные правила недискриминации теперь ожидают, что подпадающие под их действие организации здравоохранения будут прилагать разумные усилия для выявления и снижения рисков дискриминации с помощью инструментов поддержки клинических решений. Профессиональные общества публикуют рекомендации, которые могут повлиять на то, что суды считают разумной практикой. Поскольку проверенные инструменты становятся обычным явлением в таких специальностях, как радиология, стандарты медицинской помощи могут измениться в сторону ожидания их использования, что снова изменит картину ответственности.
Реальная реализация
Радиолог отклоняет сигнал AI на малозаметном узле в легком, не объясняя почему. Год спустя у пациента развился рак на поздней стадии, и истец утверждает, что флажок, видимый в системных журналах, привлек внимание радиолога.
Врач неотложной помощи опирается на оценку низкого риска на основе модели сепсиса и выписывает пациента, у которого жизненные показатели отклоняются от нормы. Юридический вопрос заключается в том, стал бы разумный врач полагаться на этот показатель, учитывая полную клиническую картину.
Больница применяет модель ухудшения состояния без местной проверки или обучения персонала. После пропущенного ухудшения состояния истец подает в суд на больницу за небрежное исполнение, а также на лечащих врачей.
Врач подписывает записку, составленную писцом искусственного интеллекта, в которой фиксируются результаты обследования, которых никогда не было. Подписанная записка является обязанностью врача и может подорвать его авторитет в судебном процессе.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Malpractice Liability When Doctors Use AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часто задаваемые вопросы
Какова ответственность за врачебную халатность, когда врачи используют ИИ?
Когда врач использует ИИ и пациенту причиняется вред, суды США обычно определяют ответственность на основании обычного закона о медицинской халатности. Вопрос в том, соответствует ли врач стандарту медицинской помощи, то есть, что бы сделал разумный врач в аналогичных обстоятельствах. Инструмент искусственного интеллекта сам по себе не является ответчиком. Ответственность может нести врач, а иногда и больница или разработчик программного обеспечения, поэтому то, как врачи следуют, игнорируют и документируют рекомендации ИИ, влияет на их правовую уязвимость. Данное руководство объясняет общие принципы и не является юридической консультацией.
В каком наборе перечислены четыре элемента, которые обычно требуются в иске США о врачебной халатности?
Недобросовестность – это форма халатности. Истец должен доказать обязанность, нарушение, причинно-следственную связь и ущерб.
Согласно анализу JAMA 2019 года, проведенному Прайсом, Герке и Коэном, какой сценарий несет самый высокий риск ответственности для врача?
Действующее законодательство измеряет поведение в соответствии со стандартами медицинской помощи, поэтому отклонение от него по совету ИИ является наиболее уязвимой позицией.
Почему недокументированное снятие флага ИИ может навредить врачу в суде?
Журналы можно запросить в судебном порядке. Документально подтвержденную причину несогласия легче защитить, чем молчаливое увольнение.
Почему разрешение FDA 510(k) не является полной защитой для врача, использующего инструменты искусственного интеллекта?
Разрешение относится к маркетингу устройства, а не к тому, разумно ли врач использовал его для конкретного пациента.
Больница применяет модель без проверки или обучения, в результате чего пациенту наносится вред. Какую теорию может использовать истец против самой больницы?
Больницы могут нести ответственность за свои собственные институциональные неудачи, а также косвенно за своих сотрудников.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме