ДалееСледующее руководство
Реформы Закона о конфиденциальности Австралии по автоматическим решениям
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Robodebt представлял собой схему возмещения долга правительства Австралии, действовавшую с 2016 по 2019 год, которая автоматически увеличивала долги по переплате по социальному обеспечению путем усреднения годового дохода налоговой службы человека за две недели и рассмотрения любого несоответствия с его заявленным доходом Centrelink как денежной задолженности.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Этот метод был незаконным и привел к возникновению сотен тысяч неточных долгов, что сделало Robodebt одним из наиболее изученных недостатков автоматизированного принятия государственных решений.
Centrelink выплачивает пособия раз в две недели, и получатели должны сообщать о своих доходах каждые две недели. Австралийское налоговое управление, напротив, регистрирует доход по финансовому году на каждого работодателя. С 2016 года Департамент социальных служб расширил масштаб онлайн-мероприятия по обеспечению соблюдения требований, позже получившего название Robodebt, которое соответствовало этим двум наборам данных. Если годовой доход ATO не соответствовал тому, что сообщил человек, система делила годовой показатель поровну на две недели работы и рассматривала разницу как переплату. Если лицо не предоставило записи, подтверждающие иное, долг оставался в силе. Основной недостаток прост: доход часто неоднороден. Люди, получающие пособие, часто работают нерегулярно или сезонно, поэтому даже средний показатель мало что говорит о том, сколько они заработали за те или иные две недели. Схема также переложила бремя доказывания на получателей, многие из которых были молоды, бедны, нездоровы или уже не имели платежных ведомостей, полученных много лет назад. Иногда долги передавались частным коллекторам, и в некоторых случаях к ним добавлялась 10-процентная плата за взыскание долгов. В ноябре 2019 года по делу Амато Федеральный суд своим согласием вынес постановление, признав, что долг, основанный на усреднении доходов, не был законно поднят, и правительство перестало полагаться только на усреднение. Коллективный иск «Пригодич против Содружества» был урегулирован в 2020 году и одобрен в 2021 году; Сумма урегулирования была оценена примерно в 1,8 миллиарда австралийских долларов, включая возмещение, погашение долгов и примерно 112 миллионов австралийских долларов в качестве компенсации. Королевская комиссия под руководством Кэтрин Холмс сообщила об этом в июле 2023 года. Она описала схему как грубую и жестокую, сочла ее ни справедливой, ни законной, а также установила, что опасения по поводу ее законности не были приняты во внимание. Он рекомендовал реформы, включая последовательную правовую основу для автоматизированного принятия решений. Распространенное заблуждение состоит в том, что проблема заключалась в программной ошибке. Программное обеспечение в основном делало то, для чего оно было разработано; дизайн и правовая основа были неправильными.
Случайная работница гостиничного бизнеса, которая заработала большую часть своего годового дохода в течение напряженного лета и правильно ничего не отчиталась в течение нескольких месяцев о пособиях, получила уведомление о задолженности, потому что усреднение ее летней заработной платы распределило ее летний заработок на две недели, когда у нее не было работы.
Студента университета, который несколько лет назад сменил работу с частичной занятостью, попросили доказать свой двухнедельный доход старыми платежными ведомостями, а когда он не смог их найти, усредненная цифра была использована для привлечения к нему долга.
Получатели, которым сообщили о долгах через письма и через онлайн-портал, а не от социального работника, часто платили суммы, которые они не должны были, потому что оспорить расчет казалось труднее, чем заплатить.
В соответствии с мировым соглашением по коллективному иску, одобренным в 2021 году, правительство возместило долги, полученные за счет усреднения доходов, и выплатило компенсацию — средство правовой защиты, часто упоминаемое в дебатах о том, как следует разрабатывать и пересматривать автоматизированные программы обеспечения соответствия.
Robodebt теперь определяет подход Австралии к автоматизированному принятию решений. Вслед за Королевской комиссией правительство Австралии приняло или приняло в принципе все 56 ее рекомендаций и провело консультации по правовой базе для автоматизированных решений в государственном управлении. Правительства других стран, в том числе те, которые используют алгоритмы обнаружения мошенничества или определения соответствия требованиям в сфере социального обеспечения, налогообложения и иммиграции, ссылаются на Robodebt наряду со скандалом с пособиями по уходу за детьми в Нидерландах в качестве предупредительных примеров. Долгосрочные вопросы не являются специфическими для Австралии: имеют ли автоматизированные результаты четкую правовую основу, могут ли пострадавшие люди видеть и оспаривать доводы, и кто внутри агентства несет ответственность за действия в соответствии с предупреждениями. Насколько строго соблюдаются новые правила, еще неизвестно.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Robodebt представлял собой схему возмещения долга правительства Австралии, действовавшую с 2016 по 2019 год, которая автоматически увеличивала долги по переплате по социальному обеспечению путем усреднения годового дохода налоговой службы человека за две недели и рассмотрения любого несоответствия с его заявленным доходом Centrelink как денежной задолженности. Этот метод был незаконным и привел к возникновению сотен тысяч неточных долгов, что сделало Robodebt одним из наиболее изученных недостатков автоматизированного принятия государственных решений.
Схема делила годовой доход ATO поровну на две недели и сравнивала его с двухнедельными отчетами Centrelink, которые искажали нерегулярные доходы.
Люди, получающие пособие, часто работают на случайных или сезонных работах, поэтому даже средний показатель мало что говорит о том, сколько они заработали за конкретные две недели.
Бремя перешло на получателей, которым приходилось предъявлять старые платежные ведомости или записи; в противном случае усредненный долг оставался неизменным.
В постановлениях о согласии признавалось, что долг, полученный на основе усреднения доходов, недействителен, и тогда правительство перестало полагаться только на усреднение.
Сумма урегулирования была оценена примерно в 1,8 миллиарда австралийских долларов, включая возмещение, погашение долгов и примерно 112 миллионов австралийских долларов в качестве компенсации.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Реформы Закона о конфиденциальности Австралии по автоматическим решениям
Общество