GUIDA alle industrie

Valutare gli strumenti di intelligenza artificiale medica come medico

Per valutare uno strumento di intelligenza artificiale medica, controlli, prima e dopo l'implementazione, se funziona in modo accurato ed equo sui tuoi pazienti e nel tuo flusso di lavoro.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro della valutazione degli strumenti di intelligenza artificiale medica come medico
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Confermi anche il suo status normativo e che qualcuno lo sta monitorando. Ciò è importante perché i dati sull'accuratezza di un fornitore provengono dai dati di qualcun altro. I medici che pongono domande mirate sulla validazione, sui pregiudizi e sulla supervisione proteggono i pazienti da strumenti che sembrano buoni sulla carta ma falliscono localmente.

Immersione profonda

La maggior parte delle affermazioni dei fornitori si basa su una metrica principale, spesso l'area sotto la curva ROC (AUC), misurata su un set di dati scelto dal fornitore. Quel numero risponde a una domanda ristretta: quanto bene il modello classifica i casi in quel set di dati. Non dice nulla su come si comporterà lo strumento con il tuo mix di pazienti, le tue abitudini di documentazione, i tuoi scanner o la soglia di avviso che utilizzeresti effettivamente. Il divario può essere ampio. Una convalida esterna del 2021 ampiamente citata di un modello proprietario di previsione della sepsi, pubblicata su JAMA Internal Medicine, ha rilevato una discriminazione molto più debole di quella riportata dallo sviluppatore. Il modello ha mancato molti casi di sepsi pur continuando a inviare avvisi frequenti. Una valutazione utile copre cinque aree. Dati di convalida. Da dove provengono i dati relativi alla formazione e ai test? I siti di test erano separati dai siti di formazione? Lo studio era retrospettivo o prospettico?; Prestazioni locali. Puoi eseguire il modello in modo silenzioso sui tuoi dati e misurare la sensibilità, il valore predittivo positivo e la calibrazione alla soglia prevista?; Pregiudizio. I risultati vengono riportati per età, sesso, razza ed etnia, lingua, assicurazione e tipo di dispositivo? Come sono stati gestiti i gruppi sottorappresentati?; Stato normativo. Il prodotto è autorizzato o approvato dalla FDA e per quale indicazione? Oppure il fornitore afferma che si tratta di supporto decisionale clinico non dispositivo?; e monitoraggio. Chi guarda lo spettacolo dopo il go-live? Come verrà rilevata la deriva? Cosa succede quando il fornitore aggiorna il modello?. Un malinteso comune è che l’approvazione della FDA dimostri che uno strumento migliora i risultati. La maggior parte dei dispositivi di intelligenza artificiale raggiungono il mercato attraverso il percorso 510(k), che richiede di dimostrare una sostanziale equivalenza con un dispositivo esistente. Molte di queste proposte includono poche prove prospettiche o multisito. Un altro malinteso è che un’AUC elevata garantisca l’utilità. Per una condizione rara, anche un modello accurato può produrre per lo più falsi allarmi. L'autorizzazione e l'accuratezza pubblicata sono il punto in cui inizia una valutazione, non dove finisce.

Implementazione nel mondo reale

Un ospedale che valuta un allarme di sepsi chiede al fornitore i risultati di una convalida esterna. Prima che qualsiasi avviso raggiunga i medici, esegue silenziosamente il modello sui mesi dei suoi incontri passati e confronta i segnali con i casi di sepsi confermati dalla cartella clinica.

Un gruppo di dermatologia che esamina un classificatore di lesioni cutanee richiede prestazioni suddivise per tipo di pelle. Apprende che le tonalità della pelle più scure costituivano una piccola frazione delle immagini di addestramento, quindi limita il luogo in cui viene utilizzato lo strumento e chiede al fornitore ulteriori prove.

Un dipartimento di radiologia controlla i registri pubblici dei dispositivi della FDA per confermare che uno strumento di triage per radiografie del torace sia autorizzato per l'indicazione esatta e i tipi di immagini che intende utilizzare, non solo per uno più ristretto.

Dopo aver inviato uno scriba per la documentazione ambientale, una clinica esamina un campione di note ogni mese. Tiene traccia dei tipi di errore, come risultati di esami inventati o dosi di farmaci errate, e un proprietario nominato segnala i problemi al fornitore.

Il futuro della valutazione degli strumenti di intelligenza artificiale medica come medico

Aspettatevi una trasparenza più strutturata. Negli Stati Uniti, le norme federali di certificazione per l'IT sanitario richiedono ora che alcuni strumenti di supporto alle decisioni nelle cartelle cliniche elettroniche certificate rivelino come sono stati sviluppati e convalidati. I gruppi industriali hanno anche proposto modelli di schede standardizzate. La FDA ha pubblicato linee guida su piani di controllo delle modifiche predeterminati, che consentono ai produttori di descrivere in anticipo gli aggiornamenti dei modelli pianificati. Niente di tutto ciò sostituisce la valutazione locale. I grandi sistemi sanitari stanno costruendo comitati interni di governance dell’IA e monitorando le infrastrutture, ma molte strutture più piccole non dispongono del personale per fare lo stesso. Le risorse di valutazione condivise e gli obblighi più chiari dei fornitori rimangono un problema aperto.

Metterlo in pratica

Perché è importante

  • Contesto e regole. Il contesto del settore determina se le idee dell’intelligenza artificiale sopravvivono al contatto con la realtà.
  • Controllo di qualità. I vincoli di dominio influenzano i tassi di errore accettabili e i modelli di supervisione.
  • Scelte di build. Le implementazioni di successo allineano le capacità tecniche con i flussi di lavoro in prima linea.

Attenzione

  • I requisiti normativi possono invalidare prototipi altrimenti robusti.
  • I dati storici possono codificare pregiudizi che danneggiano comunità specifiche.
  • I sistemi legacy possono creare colli di bottiglia nell’integrazione e costi nascosti.

Prossimi passi

  1. Coinvolgere esperti del settore dall'inquadramento del problema alla valutazione.
  2. Progettare audit trail e documentazione prima del lancio.
  3. Convalidare tempestivamente la conformità e gli obblighi di sicurezza.
  4. Implementazione in fasi con chiari criteri di stop e rollback.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Take the Evaluating Medical AI Tools as a Clinician quiz

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Che cosa significa valutare gli strumenti di intelligenza artificiale medica come medico?

Per valutare uno strumento di intelligenza artificiale medica, controlli, prima e dopo l'implementazione, se funziona in modo accurato ed equo sui tuoi pazienti e nel tuo flusso di lavoro. Confermi anche il suo status normativo e che qualcuno lo sta monitorando. Ciò è importante perché i dati sull'accuratezza di un fornitore provengono dai dati di qualcun altro. I medici che pongono domande mirate sulla validazione, sui pregiudizi e sulla supervisione proteggono i pazienti da strumenti che sembrano buoni sulla carta ma falliscono localmente.

Un fornitore segnala un AUC di 0,85 per il suo modello di deterioramento. Cosa dice la guida che questo numero non comunica a un ospedale?

L'AUC misura la classifica sul set di dati scelto dal fornitore. Non rivela le prestazioni con un diverso mix di pazienti, diverse abitudini di documentazione o la soglia specifica che l'ospedale utilizzerebbe.

Cosa ha scoperto la validazione esterna del 2021 di un modello proprietario di sepsi, pubblicata su JAMA Internal Medicine?

Lo studio ha rilevato che le prestazioni di un sistema sanitario esterno erano di gran lunga peggiori di quanto affermato. Il modello ha trascurato molti casi di sepsi generando al contempo numerosi avvisi, il che dimostra perché la convalida locale è importante.

È stato convalidato un modello in cui una condizione colpisce il 10% dei pazienti. Perché potrebbe generare più falsi allarmi su un'unità in cui solo il 2% presenta la condizione?

PPV è la frazione di avvisi positivi che sono veri. Quando una condizione è più rara, lo stesso modello produce relativamente più falsi positivi rispetto a quelli veri.

Secondo la guida, quale percorso utilizza la maggior parte dei dispositivi medici basati sull’intelligenza artificiale per raggiungere il mercato statunitense?

La maggior parte dei dispositivi di intelligenza artificiale vengono approvati attraverso 510 (k), che richiede la dimostrazione di una sostanziale equivalenza piuttosto che la prova di risultati migliorati. Ecco perché l'autorizzazione da sola non è la prova che uno strumento funzioni nella pratica.

Che cos'è un'implementazione silenziosa o ombra di un modello di intelligenza artificiale clinica?

In una distribuzione silenziosa, il modello viene eseguito su dati locali reali mentre i medici non ne vedono mai l'output. Ciò consente all'ospedale di misurare la sensibilità, il PPV e la calibrazione in modo sicuro prima della messa in servizio.