Il prossimoProssima guida
Lo scandalo dell’algoritmo olandese per i benefici per l’infanzia
Società
GUIDA alle industrie
L’intelligenza artificiale nell’amministrazione dei benefici pubblici si riferisce ai sistemi automatizzati e algoritmici utilizzati dalle agenzie per verificare l’idoneità, calcolare i pagamenti e segnalare possibili frodi o pagamenti in eccesso in programmi quali welfare, disoccupazione e sostegno alla disabilità.
Ascolta questa guidaNarrato dall'IA · ~3 min
È importante perché queste decisioni incidono sul reddito e sull’alloggio delle persone, e diversi fallimenti di alto profilo hanno dimostrato che errori su vasta scala possono danneggiare centinaia di migliaia di persone.
Le agenzie previdenziali gestiscono enormi carichi di lavoro con personale limitato, quindi l’automazione è interessante. I sistemi spaziano da motori di regole che applicano formule di ammissibilità, a programmi di corrispondenza dei dati che confrontano i record di agenzie, a modelli di apprendimento automatico che valutano i casi in base al rischio di frode. Il Robodebt australiano è uno dei fallimenti più citati e non si trattava di un'intelligenza artificiale sofisticata. Dal 2016 il regime ha abbinato il reddito annuale dell’ufficio delle imposte ai registri quindicinali del welfare e ha calcolato una media della cifra annuale uniformemente tra le due settimane. Le persone con guadagni irregolari, come i lavoratori occasionali, sembravano pagate in eccesso e gli avvisi di debito venivano emessi automaticamente, lasciando ai destinatari il compito di smentirli. Il governo in seguito ha ammesso che la sola mediazione non era una base legale per i debiti, ha avviato un’azione collettiva e una Commissione reale che ha riferito nel 2023 ha condannato fermamente il sistema. Nei Paesi Bassi, lo scandalo degli assegni per l’infanzia ha visto l’autorità fiscale trattare erroneamente decine di migliaia di genitori come truffatori e richiedere ingenti rimborsi. Un modello di classificazione del rischio che utilizzava la nazionalità come fattore di rischio era parte del problema, insieme alle dure regole del “tutto o niente”. Il gabinetto si è dimesso nel gennaio 2021. Separatamente, un tribunale olandese nel 2020 ha bloccato SyRI, un sistema di collegamento di dati antifrode sul welfare, per motivi di privacy e diritti umani. Negli Stati Uniti, il sistema MiDAS del Michigan ha emesso risultati automatizzati di frode che una revisione statale ha riscontrato essere per lo più errati, e l'Arkansas ha dovuto affrontare un contenzioso dopo che un algoritmo ha ridotto le ore di assistenza domiciliare per i destinatari Medicaid disabili. La lezione si ripete: i debiti automatizzati invertono l’onere della prova; i modelli di frode possono codificare indicatori di etnia o povertà; e la scala trasforma piccoli tassi di errore in danni di massa. Le garanzie includono la revisione umana prima di decisioni negative, avvisi che ne spiegano il motivo, ricorsi accessibili, test di parzialità e divulgazione pubblica dei sistemi in uso. La legge dell’UE sull’IA classifica l’IA utilizzata dalle autorità pubbliche per valutare l’ammissibilità a benefici pubblici essenziali come ad alto rischio.
Il programma australiano Robodebt calcolava il reddito medio annuo dell'ufficio delle imposte nell'arco di due settimane e emetteva automaticamente avvisi di debito ai beneficiari del welfare, molti dei quali non avevano debiti.
Il punteggio di rischio relativo agli assegni per l'infanzia stabilito dall'autorità fiscale olandese, che utilizzava la nazionalità come fattore di rischio, ha contribuito a far sì che decine di migliaia di famiglie venissero ingiustamente trattate come truffatori.
Il sistema di disoccupazione MiDAS del Michigan ha emesso automaticamente accertamenti di frode con sanzioni salate e una revisione statale ha rilevato che la maggior parte delle determinazioni esaminate erano sbagliate.
Un'agenzia previdenziale utilizza un modello solo per decidere quali domande gli operatori del caso esaminano per prime, senza rifiuti automatici, e pubblica i propri criteri e tassi di errore.
I governi continueranno ad automatizzare il lavoro sui benefit perché il carico di lavoro e la carenza di personale sono reali e l’intelligenza artificiale generativa viene testata per attività come riassumere i fascicoli dei casi e rispondere alle domande dei candidati. Le lezioni di Robodebt e dello scandalo olandese hanno spinto alcune giurisdizioni verso registri di algoritmi, valutazioni d’impatto e requisiti più rigorosi di revisione umana, e la legge UE sull’intelligenza artificiale aggiunge obblighi per usi pubblici ad alto rischio. Il fatto che queste tutele funzionino nella pratica dipende dai finanziamenti per gli operatori sociali e i ricorsi, da audit indipendenti e dal fatto che le persone interessate possano effettivamente vedere e contestare i dati utilizzati su di loro.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
L’intelligenza artificiale nell’amministrazione dei benefici pubblici si riferisce ai sistemi automatizzati e algoritmici utilizzati dalle agenzie per verificare l’idoneità, calcolare i pagamenti e segnalare possibili frodi o pagamenti in eccesso in programmi quali welfare, disoccupazione e sostegno alla disabilità. È importante perché queste decisioni incidono sul reddito e sull’alloggio delle persone, e diversi fallimenti di alto profilo hanno dimostrato che errori su vasta scala possono danneggiare centinaia di migliaia di persone.
La media del reddito annuo nell’arco di quindici giorni ha fatto sì che le persone con guadagni irregolari sembrassero pagate in eccesso quando spesso non lo erano.
Robodebt dimostra che semplici regole automatizzate possono causare danni di massa senza alcun apprendimento automatico.
L’uso della nazionalità come fattore di rischio ha contribuito a prendere di mira gli obiettivi discriminatori nello scandalo dei sussidi per l’infanzia.
Il governo si è dimesso nel gennaio 2021 dopo che l’entità delle accuse di frode illecita è diventata chiara.
Un tribunale olandese ha fermato SyRI, un sistema di collegamento dati antifrode previdenziale, ritenendo che violasse il diritto alla privacy.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Lo scandalo dell’algoritmo olandese per i benefici per l’infanzia
Società