概述
問題是臨床醫生是否符合護理標準,這意味著一個理性的臨床醫生在類似情況下會做什麼。人工智慧工具本身並不是被告。醫生,有時是醫院或軟體開發商,可能要承擔責任,因此臨床醫生如何遵循、推翻和記錄人工智慧建議會影響他們的法律風險。本指南解釋了一般原則,並非法律建議。
深入探討
在美國,醫療事故索賠通常需要四個要素:對病患的責任、違反照護標準、違規與傷害之間的因果關係、損害賠償。護理標準不是寫在一處的。它通常是透過專家證詞、專業指南和慣例建立的,並隨著醫學的變化而變化。在一份被廣泛引用的 2019 年《美國醫學會雜誌》分析中,W. Nicholson Price、Sara Gerke 和 I. Glenn Cohen 闡述了現行法律如何對待人工智慧建議。當人工智慧推薦標準護理並且醫生遵循它時,醫生通常會受到保護。最危險的情況是遵循人工智慧的建議,當患者受到傷害時,該建議偏離了標準護理。如今,拒絕正確但非標準的人工智慧建議通常是有道理的,因為醫生遵循了公認的做法。作者指出,這促使臨床醫生使用人工智慧主要是為了確認他們無論如何都會做什麼。隨著人工智慧工具成為公認實踐的一部分,忽視或不使用它們本身就可能看起來像是一種違規行為。其他方也可能承擔責任。醫院可以對員工承擔間接責任,並可能因公司如何選擇、驗證和培訓員工工具而面臨公司疏忽索賠。開發商可能會面臨產品責任索賠,但這些索賠更難獲勝。法院經常將軟體視為一種服務而不是產品,而博學的中介思想認為臨床醫生站在工具和病人之間。有兩種常見的誤解。首先是 FDA 許可可以保護醫生。透過 510(k) 途徑獲得的許可通常不會阻止州疏忽索賠,並且不會定義護理標準。第二是供應商承擔風險。合約常常將責任轉嫁給衛生系統。很少有法院判決直接涉及臨床人工智慧,而且結果因州和國家而異。
現實世界的實施
放射科醫師在未說明原因的情況下,忽略了 AI 標示的微小肺部結節。一年後患者罹患晚期癌症,原告主張系統日誌中可見的標示已提醒放射科醫師注意。
急診醫師依賴敗血症模型的低風險分數,將生命徵象異常的患者出院。法律問題在於,考慮完整臨床情況時,合理的醫師是否會依賴該分數。
一家醫院在未進行本地驗證或員工培訓的情況下部署惡化預測模型。發生漏診惡化後,原告起訴醫院實施疏忽以及治療醫師的過失。
醫師簽署了由環境 AI 書寫者草擬、記錄了從未發生的檢查結果的筆記。簽署的筆記屬於醫師的責任,且在訴訟中可能損害其可信度。
醫生使用人工智慧時醫療事故責任的未來
關於臨床 AI 的判例仍相當稀少,當前的分析多從一般過失與產品責任原則推演。美國部分州已開始要求在特定患者溝通中使用生成式 AI 時必須披露。聯邦非歧視規則現在要求受覆蓋的健康組織合理努力識別並降低臨床決策支援工具的歧視風險。專業學會正發布指引,可能影響法院對合理實務的判定。隨著驗證過的工具在放射科等專科成為常態,照護標準可能轉向預期使用這些工具,進而再次改變責任格局。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是醫師使用 AI 時的醫療過失責任?
當醫生使用人工智慧而病人受到傷害時,美國法院一般會透過普通醫療過失法來判斷責任。問題是臨床醫生是否符合護理標準,這意味著一個理性的臨床醫生在類似情況下會做什麼。人工智慧工具本身並不是被告。醫生,有時是醫院或軟體開發商,可能要承擔責任,因此臨床醫生如何遵循、推翻和記錄人工智慧建議會影響他們的法律風險。本指南解釋了一般原則,並非法律建議。
哪一組列出了美國醫療事故索賠通常需要的四個要素?
醫療事故是疏忽的一種形式。原告必須證明責任、違約、因果關係和損害。
根據 Price、Gerke 和 Cohen 在 2019 年《美國醫學會雜誌》上的分析,哪種情況對醫生來說責任風險最高?
現行法律衡量的是違反謹慎標準的行為,因此人工智慧建議上背離這項標準是最容易被揭露的立場。
為什麼未經記錄地駁回人工智慧標誌會在法庭上傷害臨床醫生?
可以在訴訟中請求日誌。記錄下來的不同意見比無聲解僱更容易辯護。
為什麼 FDA 510(k) 許可不能為使用人工智慧工具的醫生提供全面保護?
許可涉及的是設備的營銷,而不是臨床醫生是否合理地為特定患者使用它。
醫院在未經驗證或訓練的情況下部署模型,導致病患受到傷害。原告可以用哪一種理論來對抗醫院本身?
醫院可能要為自己的機構失誤負責,也可能為員工負責。