NästaNästa guide
Den holländska algoritmskandalen för barnomsorg
Samhälle
SamhällsGUIDE
Australiens Robodebt Automated Debt Scandal
Robodebt var ett skuldindrivningssystem för den australiensiska staten, som löpte från 2016 till 2019, som automatiskt höjde överbetalda välfärdsskulder genom att beräkna en persons årliga skattekontorsinkomst i genomsnitt över fjorton veckor och behandla eventuella missförhållanden med deras rapporterade Centrelink-inkomst som skyldiga pengar.
På denna sida4 min läsning
Översikt
Metoden var olaglig och genererade hundratusentals felaktiga skulder, vilket gjorde Robodebt till ett av de mest studerade misslyckandena inom automatiserat statligt beslutsfattande.
Djupdykning
Centrelink betalar ut förmåner varannan vecka och mottagare måste rapportera sin inkomst var fjortonde dag. Australian Taxation Office däremot registrerar inkomster per räkenskapsår per arbetsgivare. Från 2016 skalade Department of Human Services upp en Online Compliance Intervention, senare smeknamnet Robodebt, som matchade dessa två datamängder. Där den årliga ATO-inkomsten inte stämde överens med vad en person hade rapporterat, delade systemet upp årssiffran jämnt över fjorton dagars anställning och behandlade skillnaden som en överbetalning. Såvida inte personen har lämnat register som visar annat, bestod skulden. Kärnbristen är enkel: inkomsten är ofta klumpig. Personer med förmåner arbetar ofta oregelbundna eller säsongsbetonade jobb, så ett jämnt genomsnitt säger lite om vad de tjänat under en given fjortondag. Systemet flyttade också bevisbördan på mottagarna, av vilka många var unga, fattiga, sjuka eller inte längre hade lönebesked från år tidigare. Skulder hänvisades ibland till privata inkasserare och i vissa fall tillkom en indrivningsavgift på 10 procent. I november 2019, i Amato-fallet, utfärdade den federala domstolen order genom samtycke och erkände att en skuld baserad på inkomstgenomsnitt inte var giltigt upptagen, och regeringen slutade förlita sig på enbart medelvärdesberäkning. En grupptalan, Prygodicz v Commonwealth, avgjordes 2020 och godkändes 2021; uppgörelsen värderades till cirka 1,8 miljarder A$, inklusive återbetalningar, utplånade skulder och cirka 112 miljoner A$ i ersättning. En kunglig kommission, ledd av Catherine Holmes, rapporterade i juli 2023. Den beskrev programmet som grovt och grymt, fann att det varken var rättvist eller lagligt och fann att farhågor om dess laglighet inte hade åtgärdats. Den rekommenderade reformer inklusive en konsekvent rättslig ram för automatiserat beslutsfattande. En vanlig missuppfattning är att problemet var ett programvarufel. Programvaran gjorde till stor del vad den var designad för att göra; utformningen och den rättsliga grunden var felaktiga.
Strategisk inverkan
Risk och säkerhet
Katastrofala och vardagliga AI-skador beror båda på vem som förstår riskerna och vem som kan agera.
Tydligare beslut
Offentlig och professionell läskunnighet formar om en stark säkerhetspolitik är politiskt möjlig.
Skär igenom hypen
Tydliga förklaringar minskar fångst av hype, labb-PR och vag etikteater.
Framtiden för Australiens Robodebt Automated Debt-skandal
Robodebt formar nu hur Australien närmar sig automatiserat beslutsfattande. Efter den kungliga kommissionen accepterade eller accepterade den australiensiska regeringen i princip alla 56 av dess rekommendationer och har konsulterat om en rättslig ram för automatiserade beslut inom offentlig förvaltning. Andra regeringar, inklusive de som kör bedrägeriupptäckt eller berättigande algoritmer inom välfärd, skatt och immigration, citerar Robodebt vid sidan av skandalen med holländska barnomsorgsförmåner som varningsfall. De varaktiga frågorna är inte specifika för Australien: om automatiserade utdata har en tydlig rättslig grund, om berörda personer kan se och bestrida resonemanget och vem inom en byrå som är ansvarig för att agera efter varningar. Hur starkt nya regler tillämpas återstår att se.
Verklig implementering
En tillfällig gästarbetare som tjänade det mesta av sin årsinkomst under en hektisk sommar och korrekt inte rapporterade någonting under månader om förmåner, fick en skuldavisering eftersom genomsnittet spred hennes sommarlöner över fjorton dagar när hon inte hade något arbete.
En universitetsstudent som flyttat mellan deltidsarbeten år tidigare ombads bevisa sin varannan vecka med gamla lönebesked, och när han inte kunde hitta dem användes medeltalet för att ta upp en skuld mot honom.
Mottagare som fick besked om skulder genom brev och en onlineportal, snarare än av en handläggare, betalade ofta belopp som de inte var skyldiga eftersom det verkade svårare att utmana beräkningen än att betala.
Enligt grupptalan, som godkändes 2021, återbetalade regeringen skulder som tagits upp genom inkomstgenomsnitt och betalad ersättning, ett botemedel som ofta citeras i debatter om hur automatiserade efterlevnadsprogram ska utformas och ses över.
Risker & skyddsräcken
Behandling av existentiell risk som sci-fi medan förmåga sammansatta.
Förvirrande ytproduktsäkerhet med inriktning under hög autonomi.
Lämnar icke-engelska och icke-experta publik med endast lågkvalitativa källor.
Färdplan för genomförande
Separata risker för produktskador, felaktig användning och förlust av kontroll/feljustering.
Fråga vilka bevis som skulle ändra din syn på tidslinjer och svårighetsgrad.
Föredrar primära källor och konkreta utvärderingar framför marknadsföringspåståenden.
Identifiera en handlingsväg: karriär, policy, finansiering eller färdigheter – inte bara medvetenhet.
Fortsätt utforska
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Australia's Robodebt Automated Debt Scandal quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Vanliga frågor
Vad är Australiens Robodebt Automated Debt Scandal?
Robodebt var ett skuldindrivningssystem för den australiensiska staten, som löpte från 2016 till 2019, som automatiskt höjde överbetalda välfärdsskulder genom att beräkna en persons årliga skattekontorsinkomst i genomsnitt över fjorton veckor och behandla eventuella missförhållanden med deras rapporterade Centrelink-inkomst som skyldiga pengar. Metoden var olaglig och genererade hundratusentals felaktiga skulder, vilket gjorde Robodebt till ett av de mest studerade misslyckandena inom automatiserat statligt beslutsfattande.
Vilken var den centrala beräkningsmetoden som gjorde Robodebts skulder opålitliga?
Systemet fördelade den årliga ATO-inkomsten jämnt över fjorton dagar och jämförde den med varannan vecka Centrelink-rapporter, som felaktigt representerade oregelbundna inkomster.
Varför orsakar medelinkomsten fel för många bidragstagare?
Personer på förmåner arbetar ofta tillfälligt eller säsongsbetonat, så ett jämnt genomsnitt säger lite om vad de tjänat under en viss fjorton dagar.
Hur ändrade Robodebt vem som var tvungen att bevisa rätt inkomst?
Bördan flyttades till mottagarna, som var tvungna att ta fram gamla lönebesked eller journaler; annars stod den genomsnittliga skulden.
Vad erkände den federala domstolens beslut i Amato-fallet 2019?
Samtyckesbesluten erkände att en skuld som tagits upp på inkomstgenomsnitt inte var giltig, och regeringen slutade sedan förlita sig på enbart medelvärdesberäkning.
Ungefär vad var det rapporterade totala värdet av grupptalan?
Förlikningen värderades till cirka 1,8 miljarder A$, inklusive återbetalningar, utplånade skulder och cirka 112 miljoner A$ i ersättning.
Fortsätt lära dig
Relaterade guider
Fler guider har valts för detta ämne