Il prossimoProssima guida
Lo scandalo dell’algoritmo di disoccupazione MiDAS del Michigan
Società
GUIDA alle applicazioni
Il sistema di disoccupazione MiDAS del Michigan è stato introdotto nel 2013 e, nel periodo 2013-2015, ha giudicato automaticamente molte accuse di frode senza revisione umana.
Ascolta questa guidaNarrato dall'IA · ~3 min
Le revisioni statali hanno rilevato che oltre il 90% delle determinazioni di frode esclusivamente informatica erano errate; i ricorrenti hanno dovuto affrontare richieste di rimborso, sanzioni e azioni di riscossione. Le sentenze e gli accordi successivi dei tribunali riguardavano il giusto processo e i rimedi, non semplicemente un difetto del software.
L’Agenzia per l’assicurazione della disoccupazione del Michigan ha lanciato MiDAS, il sistema automatizzato dei dati integrati del Michigan, nel 2013 come sistema di elaborazione delle richieste di risarcimento e rilevamento delle frodi. Nel periodo 2013-2015, il sistema ha utilizzato la corrispondenza dei dati e le risposte dei ricorrenti per generare accuse di frode e molti risultati sono stati effettuati attraverso processi automatizzati senza che un dipendente esaminasse prima ciascun file. I richiedenti potrebbero essere tenuti a rimborsare benefici, interessi e sanzioni consistenti; l'agenzia potrebbe intercettare rimborsi fiscali o pignorare gli stipendi. Una decisione di frode ha quindi avuto conseguenze ben oltre il punteggio del software. Un problema ricorrente era la differenza tra i periodi di tempo riportati nei resoconti salariali del datore di lavoro e nelle certificazioni dei benefici del richiedente. I datori di lavoro hanno comunicato i salari trimestralmente; richiedenti certificati più frequentemente. Il revisore generale ha descritto il processo di abbinamento ritardato e lo stato ha successivamente esaminato le determinazioni esclusivamente informatiche. L'avviso di transazione nel caso Bauserman afferma che il revisore generale ha ritenuto errate le accuse basate sull'auto-giudizio più del 90% delle volte. Questa cifra si applica ai risultati esaminati delle frodi esclusivamente informatiche, non a tutte le decisioni MiDAS, a ogni tipo di pagamento in eccesso di disoccupazione o a tutti i casi statali successivi. Altre fonti citano il 93% sulla base di un particolare campione; usa il denominatore e il periodo di revisione quando lo citi. I ricorrenti hanno affermato che le notifiche non fornivano motivazioni significative e che le persone che non accedevano o non rispondevano ai questionari online potevano essere ritenute responsabili senza un'equa opportunità di rispondere. Nel caso Bauserman v. UIA, la Corte Suprema del Michigan nel 2022 ha ritenuto che i querelanti avevano avanzato una richiesta di giusto processo costituzionale statale conoscibile per la quale si potevano chiedere i danni e ha rinviato il caso. Non ha stabilito che ogni decisione MiDAS fosse illegale. Successivamente è stato approvato un accordo collettivo sui diritti civili per i ricorrenti aventi diritto. MiDAS non era semplicemente “un programma difettoso”. Il fallimento ha combinato automazione, corrispondenza e preavviso inadeguati, incentivi alla prestazione, revisione umana debole, raccolta prima di un'udienza efficace e progettazione inadeguata del processo. Sistemi più sicuri distinguono l’incoerenza dalle intenzioni, spiegano le prove, consentono correzioni e ricorsi accessibili e sospendono la riscossione mentre una controversia viene esaminata tempestivamente.
Un ricorrente riceve un avviso di frode e richiede prove, calcoli e revisione umana prima che inizi la riscossione.
Un revisore confronta i rapporti trimestrali sulle retribuzioni del datore di lavoro con le certificazioni bisettimanali del richiedente e controlla l'allineamento del periodo prima di etichettare una frode relativa a discrepanze.
Un team di prodotto separa il segnale di pagamento in eccesso dalle intenzioni e indirizza i casi contestati o ad alto impatto a un revisore qualificato.
Un giornalista distingue le decisioni automatizzate sulle frodi del 2013-2015 dai successivi sistemi di benefit e procedure di transazione del Michigan.
Le conseguenze legali di MiDAS includono revisioni statali, cambiamenti politici e una transazione collettiva, ma l'idoneità e lo stato della transazione di ciascuna persona interessata dipendono dal periodo e dai criteri. La decisione Bauserman del 2022 della Corte Suprema del Michigan riguarda la disponibilità di una richiesta di risarcimento danni dovuta a un giusto processo nella fase procedurale allora antecedente. Non descrivetelo come un giudizio generale secondo cui tutte le decisioni dell’agenzia erano incostituzionali. I sistemi previdenziali governativi dovrebbero avvalersi delle leggi attuali, di avvisi accessibili, di prove specifiche per ogni caso e di una revisione significativa. L’automazione successiva dovrebbe essere rivista rispetto agli stessi standard procedurali.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Il sistema di disoccupazione MiDAS del Michigan è stato introdotto nel 2013 e, nel periodo 2013-2015, ha giudicato automaticamente molte accuse di frode senza revisione umana. Le revisioni statali hanno rilevato che oltre il 90% delle determinazioni di frode esclusivamente informatica erano errate; i ricorrenti hanno dovuto affrontare richieste di rimborso, sanzioni e azioni di riscossione. Le sentenze e gli accordi successivi dei tribunali riguardavano il giusto processo e i rimedi, non semplicemente un difetto del software.
I documenti statali e giudiziari descrivono l’implementazione nel 2013.
L’avviso di transazione dello Stato afferma che il sistema ha giudicato automaticamente i risultati delle frodi nel periodo 2013-2015, mentre i ricorrenti hanno seguito presunte sanzioni e riscossioni.
L'avviso di transazione del procuratore generale del Michigan riporta che il revisore generale ha riscontrato che oltre il 90% delle accuse basate sull'auto-giudizio erano errate.
Il revisore generale descrive i rapporti trimestrali sulle retribuzioni del datore di lavoro confrontati successivamente con le certificazioni dei richiedenti più frequenti, creando rischi di allineamento delle tempistiche e dei periodi.
La Corte Suprema del Michigan ha riassunto le affermazioni secondo cui le valutazioni relative al MiDAS hanno portato alla riscossione senza preavviso significativo o possibilità di udienza.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Lo scandalo dell’algoritmo di disoccupazione MiDAS del Michigan
Società