概述
該方法是非法的,並產生了數十萬不準確的債務,使 Robodebt 成為政府自動化決策中研究最多的失敗案例之一。
深入探討
Centrelink 每兩週支付一次福利,受益人必須每兩週報告一次收入。相比之下,澳洲稅務局按每個雇主的財政年度記錄收入。從 2016 年開始,人類服務部擴大了與這兩個資料集相符的線上合規幹預措施(後來被暱稱為 Robodebt)。如果年度 ATO 收入與個人報告的不符,系統會將年度數字平均分配給就業兩週,並將差額視為多付。除非該人提供的記錄另有說明,否則債務成立。核心缺陷很簡單:收入往往不穩定。領取福利金的人經常從事不定期或季節性的工作,因此均勻的平均值幾乎不能說明他們在任何給定兩週內的收入。該計劃還將舉證責任轉移到了受助者身上,其中許多人年輕、貧窮、身體不適,或不再擁有多年前的薪資單。債務有時會轉交給私人收債人,在某些情況下還會加收 10% 的追債費。 2019 年 11 月,在阿馬托案中,聯邦法院以同意的方式發布命令,承認基於收入平均的債務並未有效籌集,政府不再僅依賴平均收入。 Prygodicz v Commonwealth 集體訴訟於 2020 年和解,並於 2021 年獲得批准;和解金額約為 18 億澳元,包括退款、消除債務和約 1.12 億澳元的賠償。由凱瑟琳·霍姆斯 (Catherine Holmes) 領導的皇家委員會於 2023 年 7 月發布了報告。委員會稱該計劃粗暴而殘酷,認為該計劃既不公平也不合法,並發現對其合法性的擔憂並未得到落實。它建議進行改革,包括建立一致的自動化決策法律框架。一個常見的誤解是問題是軟體錯誤。該軟體基本上完成了它的設計任務;設計和法律依據都是錯誤的。
現實世界的實施
休閒飯店工作人員的大部分年收入都是在繁忙的夏季賺取的,並且在幾個月內沒有正確報告任何福利,但她收到了債務通知,因為平均將她的夏季工資分散到了她沒有工作的兩週內。
一名幾年前做過兼職的大學生被要求用舊工資單證明他每兩週的收入,當他找不到這些工資單時,平均數字被用來向他舉債。
透過信件和線上入口網站而不是社工人員得知債務的受助者通常會支付他們不欠的金額,因為質疑計算結果似乎比付款更困難。
根據 2021 年批准的集體訴訟和解協議,政府退還了透過收入平均和支付補償籌集的債務,這是有關如何設計和審查自動化合規計畫的辯論中經常引用的補救措施。
澳洲 Robodebt 自動債務醜聞的未來
Robodebt 現在塑造了澳洲如何實現自動化決策。繼皇家委員會之後,澳洲政府接受或原則上接受了其全部 56 項建議,並就公共行政自動決策的法律框架進行了磋商。其他政府,包括那些在福利、稅務和移民方面運行欺詐檢測或資格演算法的政府,將 Robodebt 與荷蘭兒童保育福利醜聞一起列為警告案例。持久的問題並不是澳洲特有的:自動化輸出是否有明確的法律依據,受影響的人是否可以看到並質疑推理,以及機構內部誰負責根據警告採取行動。新規則的執行力道有多大還有待觀察。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是澳洲的 Robodebt 自動債務醜聞?
Robodebt 是澳洲政府的債務追償計劃,於 2016 年至 2019 年運行,透過計算一個人兩週內稅務局年度收入的平均值,並將任何與其報告的 Centrelink 收入不匹配的情況視為欠款,自動提高福利超額支付債務。該方法是非法的,並產生了數十萬不準確的債務,使 Robodebt 成為政府自動化決策中研究最多的失敗案例之一。
導致 Robodebt 債務不可靠的核心計算方法是什麼?
該計劃將年度 ATO 收入平均分配在兩週內,並將其與每兩週一次的 Centrelink 報告進行比較,該報告歪曲了不規則收入。
為什麼平均收入會為許多福利領取者帶來錯誤?
領取福利金的人通常從事臨時或季節性工作,因此平均數很少說明他們在特定兩週內的收入。
Robodebt 如何改變誰必須證明正確的收入?
負擔轉移到了接受者身上,他們必須出示舊的工資單或記錄;否則平均債務不變。
聯邦法院在 2019 年 Amato 案中的命令承認了什麼?
同意令承認,透過收入平均法籌集的債務是無效的,政府隨後不再僅依賴收入平均法。
所報告的集體訴訟和解總價值大約是多少?
和解協議價值約 18 億澳元,包括退款、消除債務和約 1.12 億澳元的賠償。