Il prossimoProssima guida
Valutazione d'impatto sui diritti fondamentali ai sensi dell'articolo 27
Società
GUIDA della Società
Una valutazione d’impatto algoritmica (AIA) è una revisione strutturata, effettuata prima e durante l’implementazione, che identifica chi un sistema automatizzato o di intelligenza artificiale potrebbe influenzare, quali danni potrebbe causare e quali misure di salvaguardia li ridurranno.
Ascolta questa guidaNarrato dall'IA · ~3 min
È importante perché obbliga le organizzazioni a documentare i rischi e le decisioni in anticipo, e norme come la Direttiva canadese sul processo decisionale automatizzato e l’EU AI Act ora ne richiedono versioni.
Un’AIA prende in prestito dalle valutazioni di impatto ambientale e sulla privacy: pensare alle conseguenze prima di agire, scriverle e impegnarsi per mitigarle. Una buona valutazione riguarda solitamente lo scopo e la base giuridica del sistema; la decisione che supporta e quanto sostituisce il giudizio umano; fonti dei dati e loro qualità; gruppi colpiti, soprattutto quelli vulnerabili; danni prevedibili quali discriminazione, errore, perdita della privacy o esclusione; percorsi di supervisione, spiegazione e ricorso; e un piano per il monitoraggio e la revisione. Il Canada offre l’esempio di governo più noto. La sua Direttiva sul processo decisionale automatizzato, in vigore dal 2019, impone alle istituzioni federali di completare una valutazione dell’impatto algoritmico prima di utilizzare sistemi decisionali automatizzati. L'AIA è un questionario online con domande sul rischio e domande di mitigazione. Il punteggio colloca il sistema su uno dei quattro livelli di impatto, da poco a molto elevato, e ciascun livello attiva requisiti specifici, come la revisione tra pari, l’avviso alle persone interessate, l’intervento umano nelle decisioni e la spiegazione. Le valutazioni completate vengono pubblicate sul portale open data del governo. La legge dell’UE sull’intelligenza artificiale aggiunge una valutazione d’impatto sui diritti fondamentali (FRIA) ai sensi dell’articolo 27. Si applica agli operatori di sistemi ad alto rischio che sono enti pubblici o entità private che forniscono servizi pubblici, e agli operatori di determinati sistemi come il credit scoring e la determinazione dei prezzi delle assicurazioni sulla vita e sulla salute. La FRIA descrive come e con quale frequenza viene utilizzato il sistema, chi è interessato, i rischi specifici, le misure di supervisione umana e cosa succede se i rischi si concretizzano e l'operatore informa l'autorità di vigilanza del mercato. Integra, anziché sostituire, una valutazione d’impatto sulla protezione dei dati ai sensi del GDPR. Un malinteso comune è che l'AIA sia un modulo di conformità una tantum. Il suo valore deriva dal cambiamento delle decisioni di progettazione e dall'essere rivisitato quando il sistema, i dati o il contesto cambiano.
Un dipartimento federale canadese che intende utilizzare un modello per valutare le domande di visto completa il questionario AIA online del governo, riceve un livello di impatto e deve quindi organizzare la revisione tra pari e il coinvolgimento umano nelle decisioni finali come richiesto da quel livello.
Una banca regionale nell’UE che adotta un sistema di credit scoring ad alto rischio prepara una valutazione d’impatto sui diritti fondamentali descrivendo i gruppi di richiedenti interessati, i rischi di discriminazione, le modalità di controllo umano e il modo in cui verranno gestiti i reclami.
Un'agenzia immobiliare cittadina che sta prendendo in considerazione uno strumento di valutazione del rischio degli inquilini avvia una consultazione pubblica come parte della sua valutazione e decide di eliminare la cronologia degli sfratti come input dopo che i sostenitori hanno dimostrato che tiene traccia delle discriminazioni passate.
Un ospedale che adotta un modello di allarme sepsi aggiorna la sua valutazione dell’impatto dopo un anno di utilizzo, aggiungendo il monitoraggio dei tassi di falsi allarmi nei reparti e nei gruppi di pazienti.
Le valutazioni d’impatto stanno diventando una parte standard della governance dell’IA piuttosto che un esercizio etico facoltativo. Con l’entrata in vigore degli obblighi della legge UE sull’intelligenza artificiale per i sistemi ad alto rischio, le organizzazioni avranno bisogno di modelli ripetibili e le autorità di regolamentazione potrebbero pubblicare ulteriori indicazioni su cosa contiene una FRIA sufficiente. Standard come ISO/IEC 42005 possono aiutare ad allineare le pratiche tra i paesi. Le questioni aperte sono qualità e indipendenza: le valutazioni scritte dallo stesso team che vuole implementare un sistema possono diventare un segno di spunta. La pubblicazione delle valutazioni, una consultazione pubblica significativa e una revisione esterna sono i meccanismi che più probabilmente le manterranno oneste, ma la loro adozione è ancora incerta.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Una valutazione d’impatto algoritmica (AIA) è una revisione strutturata, effettuata prima e durante l’implementazione, che identifica chi un sistema automatizzato o di intelligenza artificiale potrebbe influenzare, quali danni potrebbe causare e quali misure di salvaguardia li ridurranno. È importante perché obbliga le organizzazioni a documentare i rischi e le decisioni in anticipo, e norme come la Direttiva canadese sul processo decisionale automatizzato e l’EU AI Act ora ne richiedono versioni.
Un'AIA è una revisione strutturata delle persone colpite, dei danni prevedibili e delle mitigazioni, effettuata in anticipo e rivista nel tempo.
Le AIA prendono a prestito dalle valutazioni di impatto ambientale e sulla privacy: anticipare le conseguenze, documentarle e impegnarsi a mitigarle.
Il punteggio colloca il sistema in uno dei quattro livelli di impatto, ciascuno con requisiti quali revisione tra pari, preavviso e intervento umano.
Le AIA canadesi completate vengono pubblicate sul portale dei dati governativi aperti, a sostegno della trasparenza.
L'articolo 27 della legge sull'AI copre la FRIA per alcuni utilizzatori di sistemi ad alto rischio.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Valutazione d'impatto sui diritti fondamentali ai sensi dell'articolo 27
Società