Il prossimoProssima guida
Quando i clienti della terapia utilizzano chatbot AI
Società
GUIDA della Società
Quando un medico utilizza l’intelligenza artificiale e un paziente viene danneggiato, i tribunali statunitensi generalmente giudicano la responsabilità attraverso la legge ordinaria sulla negligenza medica.
Ascolta questa guidaNarrato dall'IA · ~3 min
La domanda è se il medico abbia soddisfatto lo standard di cura, ovvero cosa farebbe un medico ragionevole in circostanze simili. Lo strumento AI non è un imputato a pieno titolo. Il medico, e talvolta l’ospedale o lo sviluppatore del software, possono essere ritenuti responsabili, quindi il modo in cui i medici seguono, ignorano e documentano i consigli sull’intelligenza artificiale modella la loro esposizione legale. Questa guida spiega i principi generali e non costituisce una consulenza legale.
Le richieste di risarcimento per negligenza medica negli Stati Uniti di solito richiedono quattro elementi: un dovere nei confronti del paziente, una violazione dello standard di cura, la causalità che collega la violazione alla lesione e i danni. Lo standard di cura non è scritto in un unico posto. Viene generalmente stabilito attraverso testimonianze di esperti, linee guida professionali e pratica comune e cambia di pari passo con i cambiamenti della medicina. In un’analisi JAMA del 2019 ampiamente citata, W. Nicholson Price, Sara Gerke e I. Glenn Cohen hanno illustrato il modo in cui la legge attuale tratta i consigli sull’intelligenza artificiale. Quando un’IA raccomanda cure standard e il medico la segue, il medico è generalmente protetto. Il caso più rischioso è seguire una raccomandazione dell’IA che si discosta dalle cure standard quando il paziente viene poi danneggiato. Rifiutare un suggerimento corretto ma non standard dell'IA è solitamente difendibile oggi, perché il medico è rimasto all'interno della pratica accettata. Gli autori hanno notato che ciò spinge i medici a utilizzare l’intelligenza artificiale principalmente per confermare ciò che farebbero comunque. Man mano che gli strumenti di intelligenza artificiale diventano parte della pratica accettata, ignorarli o non utilizzarli potrebbe di per sé iniziare a sembrare una violazione. Anche altre parti possono essere responsabili. Gli ospedali possono essere indirettamente responsabili dei dipendenti e possono far fronte ad accuse di negligenza da parte dell’azienda sul modo in cui selezionano, convalidano e formano il personale sugli strumenti. Gli sviluppatori potrebbero dover affrontare azioni legali per responsabilità sul prodotto, ma queste sono più difficili da vincere. I tribunali hanno spesso trattato il software come un servizio piuttosto che come un prodotto, e l’idea dell’intermediario erudito sostiene che il medico si frappone tra lo strumento e il paziente. Sono comuni due malintesi. Il primo è che l’autorizzazione della FDA protegge il medico. L'autorizzazione attraverso il percorso 510 (k) generalmente non blocca le denunce di negligenza dello Stato e non definisce lo standard di cura. Il secondo è che il venditore assorbe il rischio. I contratti spesso trasferiscono la responsabilità al sistema sanitario. Poche decisioni giudiziarie affrontano direttamente l’IA clinica e i risultati variano a seconda dello stato e del paese.
Un radiologo respinge un segnale di intelligenza artificiale su un nodulo polmonare sottile senza spiegarne il motivo. Un anno dopo il paziente aveva un cancro in fase avanzata e il querelante sostiene che il flag, visibile nei registri di sistema, metteva in guardia il radiologo.
Un medico d'urgenza si basa su un punteggio di basso rischio ottenuto da un modello di sepsi e dimette un paziente i cui segni vitali sono anormali. La questione legale diventa se un medico ragionevole avrebbe fatto affidamento su quel punteggio considerato il quadro clinico completo.
Un ospedale implementa un modello di deterioramento senza convalida locale o formazione del personale. Dopo un mancato peggioramento, il querelante fa causa all'ospedale per negligente attuazione nonché ai medici curanti.
Un medico firma una nota redatta da uno scriba dell'IA ambientale che registra un risultato di un esame che non è mai avvenuto. La nota firmata è responsabilità del medico e può danneggiare la sua credibilità nel contenzioso.
La giurisprudenza sull’IA clinica rimane scarsa, quindi gran parte dell’analisi odierna si basa sui principi di negligenza generale e di responsabilità del prodotto. Alcuni stati degli Stati Uniti hanno iniziato a richiedere la divulgazione quando l’intelligenza artificiale generativa viene utilizzata in determinate comunicazioni con i pazienti. Le norme federali sulla non discriminazione ora richiedono che le organizzazioni sanitarie coperte compiano sforzi ragionevoli per identificare e ridurre i rischi di discriminazione derivanti dagli strumenti di supporto alle decisioni cliniche. Le società professionali stanno pubblicando linee guida che possono influenzare ciò che i tribunali considerano una pratica ragionevole. Man mano che gli strumenti convalidati diventano routine in specialità come la radiologia, lo standard di cura potrebbe spostarsi verso il loro utilizzo, il che cambierebbe nuovamente il quadro delle responsabilità.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Quando un medico utilizza l’intelligenza artificiale e un paziente viene danneggiato, i tribunali statunitensi generalmente giudicano la responsabilità attraverso la legge ordinaria sulla negligenza medica. La domanda è se il medico abbia soddisfatto lo standard di cura, ovvero cosa farebbe un medico ragionevole in circostanze simili. Lo strumento AI non è un imputato a pieno titolo. Il medico, e talvolta l’ospedale o lo sviluppatore del software, possono essere ritenuti responsabili, quindi il modo in cui i medici seguono, ignorano e documentano i consigli sull’intelligenza artificiale modella la loro esposizione legale. Questa guida spiega i principi generali e non costituisce una consulenza legale.
La negligenza è una forma di negligenza. L'attore deve dimostrare il dovere, la violazione, la causalità e il danno.
La legge attuale misura la condotta contraria allo standard di cura, quindi discostarsi da esso su consiglio dell’IA è la posizione più esposta.
I registri possono essere richiesti in caso di contenzioso. Un motivo documentato di disaccordo è più facile da difendere rispetto a un licenziamento silenzioso.
L'autorizzazione riguarda la commercializzazione del dispositivo, non se un medico lo ha utilizzato in modo ragionevole per un determinato paziente.
Gli ospedali possono essere responsabili dei propri fallimenti istituzionali, nonché indirettamente dei dipendenti.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Quando i clienti della terapia utilizzano chatbot AI
Società