Il prossimoProssima guida
Valutazione degli strumenti AI EdTech per le scuole
Applicazioni
GUIDA alle industrie
Per valutare uno strumento di intelligenza artificiale medica, controlli, prima e dopo l'implementazione, se funziona in modo accurato ed equo sui tuoi pazienti e nel tuo flusso di lavoro.
Ascolta questa guidaNarrato dall'IA · ~3 min
Confermi anche il suo status normativo e che qualcuno lo sta monitorando. Ciò è importante perché i dati sull'accuratezza di un fornitore provengono dai dati di qualcun altro. I medici che pongono domande mirate sulla validazione, sui pregiudizi e sulla supervisione proteggono i pazienti da strumenti che sembrano buoni sulla carta ma falliscono localmente.
La maggior parte delle affermazioni dei fornitori si basa su una metrica principale, spesso l'area sotto la curva ROC (AUC), misurata su un set di dati scelto dal fornitore. Quel numero risponde a una domanda ristretta: quanto bene il modello classifica i casi in quel set di dati. Non dice nulla su come si comporterà lo strumento con il tuo mix di pazienti, le tue abitudini di documentazione, i tuoi scanner o la soglia di avviso che utilizzeresti effettivamente. Il divario può essere ampio. Una convalida esterna del 2021 ampiamente citata di un modello proprietario di previsione della sepsi, pubblicata su JAMA Internal Medicine, ha rilevato una discriminazione molto più debole di quella riportata dallo sviluppatore. Il modello ha mancato molti casi di sepsi pur continuando a inviare avvisi frequenti. Una valutazione utile copre cinque aree. Dati di convalida. Da dove provengono i dati relativi alla formazione e ai test? I siti di test erano separati dai siti di formazione? Lo studio era retrospettivo o prospettico?; Prestazioni locali. Puoi eseguire il modello in modo silenzioso sui tuoi dati e misurare la sensibilità, il valore predittivo positivo e la calibrazione alla soglia prevista?; Pregiudizio. I risultati vengono riportati per età, sesso, razza ed etnia, lingua, assicurazione e tipo di dispositivo? Come sono stati gestiti i gruppi sottorappresentati?; Stato normativo. Il prodotto è autorizzato o approvato dalla FDA e per quale indicazione? Oppure il fornitore afferma che si tratta di supporto decisionale clinico non dispositivo?; e monitoraggio. Chi guarda lo spettacolo dopo il go-live? Come verrà rilevata la deriva? Cosa succede quando il fornitore aggiorna il modello?. Un malinteso comune è che l’approvazione della FDA dimostri che uno strumento migliora i risultati. La maggior parte dei dispositivi di intelligenza artificiale raggiungono il mercato attraverso il percorso 510(k), che richiede di dimostrare una sostanziale equivalenza con un dispositivo esistente. Molte di queste proposte includono poche prove prospettiche o multisito. Un altro malinteso è che un’AUC elevata garantisca l’utilità. Per una condizione rara, anche un modello accurato può produrre per lo più falsi allarmi. L'autorizzazione e l'accuratezza pubblicata sono il punto in cui inizia una valutazione, non dove finisce.
Un ospedale che valuta un allarme di sepsi chiede al fornitore i risultati di una convalida esterna. Prima che qualsiasi avviso raggiunga i medici, esegue silenziosamente il modello sui mesi dei suoi incontri passati e confronta i segnali con i casi di sepsi confermati dalla cartella clinica.
Un gruppo di dermatologia che esamina un classificatore di lesioni cutanee richiede prestazioni suddivise per tipo di pelle. Apprende che le tonalità della pelle più scure costituivano una piccola frazione delle immagini di addestramento, quindi limita il luogo in cui viene utilizzato lo strumento e chiede al fornitore ulteriori prove.
Un dipartimento di radiologia controlla i registri pubblici dei dispositivi della FDA per confermare che uno strumento di triage per radiografie del torace sia autorizzato per l'indicazione esatta e i tipi di immagini che intende utilizzare, non solo per uno più ristretto.
Dopo aver inviato uno scriba per la documentazione ambientale, una clinica esamina un campione di note ogni mese. Tiene traccia dei tipi di errore, come risultati di esami inventati o dosi di farmaci errate, e un proprietario nominato segnala i problemi al fornitore.
Aspettatevi una trasparenza più strutturata. Negli Stati Uniti, le norme federali di certificazione per l'IT sanitario richiedono ora che alcuni strumenti di supporto alle decisioni nelle cartelle cliniche elettroniche certificate rivelino come sono stati sviluppati e convalidati. I gruppi industriali hanno anche proposto modelli di schede standardizzate. La FDA ha pubblicato linee guida su piani di controllo delle modifiche predeterminati, che consentono ai produttori di descrivere in anticipo gli aggiornamenti dei modelli pianificati. Niente di tutto ciò sostituisce la valutazione locale. I grandi sistemi sanitari stanno costruendo comitati interni di governance dell’IA e monitorando le infrastrutture, ma molte strutture più piccole non dispongono del personale per fare lo stesso. Le risorse di valutazione condivise e gli obblighi più chiari dei fornitori rimangono un problema aperto.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Per valutare uno strumento di intelligenza artificiale medica, controlli, prima e dopo l'implementazione, se funziona in modo accurato ed equo sui tuoi pazienti e nel tuo flusso di lavoro. Confermi anche il suo status normativo e che qualcuno lo sta monitorando. Ciò è importante perché i dati sull'accuratezza di un fornitore provengono dai dati di qualcun altro. I medici che pongono domande mirate sulla validazione, sui pregiudizi e sulla supervisione proteggono i pazienti da strumenti che sembrano buoni sulla carta ma falliscono localmente.
L'AUC misura la classifica sul set di dati scelto dal fornitore. Non rivela le prestazioni con un diverso mix di pazienti, diverse abitudini di documentazione o la soglia specifica che l'ospedale utilizzerebbe.
Lo studio ha rilevato che le prestazioni di un sistema sanitario esterno erano di gran lunga peggiori di quanto affermato. Il modello ha trascurato molti casi di sepsi generando al contempo numerosi avvisi, il che dimostra perché la convalida locale è importante.
PPV è la frazione di avvisi positivi che sono veri. Quando una condizione è più rara, lo stesso modello produce relativamente più falsi positivi rispetto a quelli veri.
La maggior parte dei dispositivi di intelligenza artificiale vengono approvati attraverso 510 (k), che richiede la dimostrazione di una sostanziale equivalenza piuttosto che la prova di risultati migliorati. Ecco perché l'autorizzazione da sola non è la prova che uno strumento funzioni nella pratica.
In una distribuzione silenziosa, il modello viene eseguito su dati locali reali mentre i medici non ne vedono mai l'output. Ciò consente all'ospedale di misurare la sensibilità, il PPV e la calibrazione in modo sicuro prima della messa in servizio.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Valutazione degli strumenti AI EdTech per le scuole
Applicazioni