Cosa è successo
Ynetnews riporta che una revisione dell’Organizzazione Mondiale della Sanità di 11 casi di studio sull’intelligenza artificiale nei sistemi sanitari europei evidenzia il quadro OPTICA di Clalit Health Services come uno dei quattro approcci principali per la valutazione e l’implementazione sicura dell’IA. Il quadro utilizza una lista di controllo composta da un massimo di 77 elementi tra idoneità clinica, valutazione dei dati, sviluppo e valutazione delle prestazioni e pianificazione dell'implementazione e del monitoraggio.
Ynetnews riferisce che l’OMS ha recentemente pubblicato un rapporto che esamina come i sistemi sanitari in tutta Europa utilizzano nella pratica l’intelligenza artificiale. Secondo l’articolo, un gruppo di lavoro collegato all’iniziativa sui dati e sulla salute digitale dell’OMS ha esaminato 11 casi di studio provenienti da diversi paesi. Tre casi provenivano da Israele, di cui due coinvolgevano i servizi sanitari Clalit. La fonte descrive il rapporto come incentrato sull’implementazione nei sistemi sanitari reali piuttosto che su piani o discussioni generali sull’opportunità che l’assistenza sanitaria debba utilizzare l’intelligenza artificiale.
L’articolo afferma che il rapporto dell’OMS presenta il modello OPTICA di Clalit insieme ad altri tre approcci principali per la valutazione e l’implementazione sicura dell’IA. Ynetnews descrive OPTICA come un meccanismo organizzativo strutturato con un massimo di 77 elementi della lista di controllo divisi in 13 sezioni e quattro domini: idoneità clinica, valutazione dei dati, sviluppo e valutazione delle prestazioni e pianificazione dell'implementazione e del monitoraggio. Secondo quanto riferito, il quadro richiede la partecipazione di cinque tipi di parti interessate, tra cui un esperto clinico e una persona responsabile dell’infrastruttura AI di un’organizzazione.
Ynetnews cita Ran Balicer, Chief Innovation Officer di Clalit, che afferma che ogni prodotto AI destinato all'implementazione presso Clalit passa attraverso una lista di controllo che copre sicurezza, protezione della privacy, accuratezza e monitoraggio continuo. L'articolo afferma che il quadro è concepito come un processo continuo piuttosto che come un'approvazione una tantum. Descrive anche altri due casi israeliani: un modello del Clalit Research Institute che ha analizzato 25 anni di dati relativi ai pazienti per identificare le persone ad alto rischio di epatite C non diagnosticata e una piattaforma Aidoc che consente a Clalit di eseguire algoritmi di imaging di più fornitori. La fonte fornita non include il rapporto sottostante dell'OMS o la documentazione indipendente di tali affermazioni.
Dettagli della fonte: ynetnews.com ↗
Perché è importante
Il rapporto, come descritto da Ynetnews, pone la governance organizzativa al centro della sicurezza dell’IA in ambito sanitario. OPTICA richiede più parti interessate e un monitoraggio continuo dopo l'implementazione, affrontando i rischi che possono emergere quando cambiano dati, apparecchiature, flussi di lavoro o sistemi di intelligenza artificiale. L’articolo descrive anche le prove che l’integrazione clinica mirata può migliorare l’efficienza dello screening, pur sottolineando che i collegamenti formali tra la valutazione dell’intelligenza artificiale e gli esiti dei pazienti rimangono rari.
Il significato pratico del resoconto è la sua enfasi su ciò che accade dopo che un sistema di intelligenza artificiale sembra funzionare in fase di sviluppo o test. Ynetnews riferisce che i casi di studio dell’OMS si concentrano sul mantenimento della sicurezza dei pazienti e della fiducia professionale durante l’uso nel mondo reale. I sistemi sanitari operano in condizioni mutevoli: i flussi di lavoro clinici si evolvono, le apparecchiature vengono aggiornate, i dati possono spostarsi e i modelli possono essere modificati. Un processo di governance che assegni responsabilità e richieda il monitoraggio potrebbe aiutare a identificare gli errori che una revisione pre-implementazione non potrebbe cogliere.
L'esempio dell'epatite C di Clalit illustra il potenziale valore di combinare le prestazioni del modello con un'attenta progettazione del flusso di lavoro. Ynetnews riferisce che un sondaggio di screening di massa condotto su circa 50.000 persone ha identificato solo dozzine di portatori, mentre un approccio mirato ha individuato 38 portatori tra circa 500 persone giudicate a rischio. L'articolo caratterizza questo come un miglioramento di 100 volte nell'efficienza di rilevamento e afferma che l'iniziativa dipendeva dalla graduale integrazione nei flussi di lavoro clinici e da spiegazioni che i medici potessero comprendere. La fonte non fornisce il disegno dello studio, i parametri di confronto, il tasso di falsi positivi, i risultati del follow-up o la validazione indipendente necessaria per valutare pienamente il risultato.
L’esperienza riportata dell’Ospedale universitario di Helsinki aggiunge una prospettiva di selezione. Ynetnews afferma che l’ospedale ha valutato 60 prodotti di intelligenza artificiale e ne ha avviati solo 15, ovvero circa un quarto. L’articolo afferma inoltre che solo una minoranza dei progetti valutati ha utilizzato quadri formali che collegavano l’uso dell’intelligenza artificiale ai risultati clinici. Questo divario è importante perché la precisione tecnica da sola non stabilisce se uno strumento migliora l’assistenza, modifica il comportamento del medico in modo appropriato o introduce nuovi rischi. La fonte sostiene di considerare OPTICA come un approccio di governance descritto da Ynetnews, non come una prova provata in modo indipendente che il quadro migliora i risultati.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
La fonte fornita non stabilisce in modo indipendente la data di pubblicazione, la metodologia o le conclusioni del rapporto dell’OMS al di là del resoconto di Ynetnews. I rapporti di follow-up dovrebbero esaminare il rapporto originale dell’OMS, le prove alla base dei risultati dello screening di Clalit, se OPTICA è disponibile al pubblico o adottato al di fuori di Clalit e se il quadro migliora in modo misurabile gli esiti dei pazienti e riduce i danni nelle cure di routine.
La prima priorità di verifica è il rapporto originale dell’OMS. L'articolo fornito non indica il titolo esatto, la data di pubblicazione, i dettagli della paternità, il metodo di revisione, i criteri per la selezione dei quattro approcci o se il rapporto designa formalmente OPTICA un punto di riferimento globale. Questi dettagli determinerebbero quanto peso dare alla caratterizzazione. Fino a quando il rapporto non verrà esaminato direttamente, le affermazioni sulla classifica o sull’approvazione dell’OMS dovrebbero rimanere attribuite a Ynetnews.
Un ulteriore esame dovrebbe concentrarsi sulle prove alla base del resoconto dello screening dell’epatite C e su come OPTICA opera nella pratica. Importanti incognite includono il modo in cui il modello è stato convalidato, come sono state scelte le soglie di rischio, quante persone sono state erroneamente segnalate o perse, se i medici hanno cambiato decisioni a causa del sistema e se l’approccio ha migliorato i risultati sanitari piuttosto che solo l’efficienza del rilevamento. Inoltre, non è chiaro se la checklist di 77 punti sia obbligatoria per ogni prodotto Clalit AI, come venga verificata la conformità e cosa accada quando il monitoraggio identifica un problema serio.
Il test più ampio sarà se meccanismi di supervisione simili funzioneranno tra ospedali, specialità, fornitori e popolazioni di pazienti. Ynetnews riferisce che il caso dell'infrastruttura Aidoc ha sottolineato la proprietà clinica responsabile e il monitoraggio dopo gli aggiornamenti delle apparecchiature, ma la fonte fornita non fornisce dati sull'incidente o valutazioni comparative. La reportistica futura dovrebbe cercare audit pubblicati, cambiamenti delle prestazioni del modello nel tempo, richiami o pause documentati, tutele della privacy e prove che medici e pazienti possano comprendere e contestare le decisioni supportate dall’intelligenza artificiale. Dovrebbe inoltre stabilire se OPTICA ha influenzato gli appalti o la politica al di fuori di Clalit.