L’intelligenza artificiale nella sanità

La valutazione corretta dipende dall'uso previsto, dalla popolazione di pazienti, dal flusso di lavoro clinico e dalle conseguenze dell'errore. Un modello che funziona bene su un dataset non è automaticamente pronto a guidare l'assistenza.

Punti chiave

• Definisci il contesto di utilizzo e responsabilità.
• Valuta pazienti rappresentativi, dispositivi e flussi di lavoro.
• Considera lo status regolatorio e le prestazioni del modello come prove specifiche.

Definire lo scopo clinico o operativo prima di scegliere un modello. Un sistema che dà priorità ai registri, suggerisce un risultato e formula una raccomandazione terapeutica ha profili di rischio e requisiti di evidenza differenti. Identifica chi esamina i risultati, quali informazioni vede e cosa succede quando il sistema è indisponibile o incerto. Utilizza dati rappresentativi e mantiene la distinzione tra sviluppo, validazione e valutazione reale. Controlla le prestazioni dei sottogruppi, i dati mancanti, le differenze nei dispositivi e i cambiamenti nella pratica clinica. Un risultato retrospettivo può supportare l'indagine pur non raggiungendo le evidenze per un uso potenziale. Documenta modello, dati, versione e contesto d'uso. La lista dei dispositivi abilitati all'IA della FDA enfatizza la relazione tra l'uso previsto del dispositivo, la tecnologia e la revisione applicabile. Lo status normativo è specifico per il dispositivo autorizzato e l'uso; non è un'approvazione generale di ogni modello o flusso di lavoro. Proteggi le informazioni sanitarie attraverso input, registri, caratteristiche derivate e output. Mantenere un decisore umano qualificato responsabile delle cure conseguenti e fornire un percorso per indagare e correggere gli errori.

1. Immagina un modello che classifica 100 cartelle d'emergenza per la revisione e un secondo sistema che suggerisce una diagnosi.
2. Misurare se la prima classifica aiuta i clinici a individuare casi urgenti; non considerare quel risultato come prova della diagnosi del secondo sistema.
3. Testare i casi persi, il tempo di revisione e le procedure di escalation prima di utilizzare in pratica uno dei due output.

Questo esempio costruito mostra perché le evidenze sanitarie devono corrispondere all'uso preciso previsto.