РУКОВОДСТВО ПО ОБЩЕСТВУ

Австралийский автоматизированный долговой скандал Robodebt

Robodebt представлял собой схему возмещения долга правительства Австралии, действовавшую с 2016 по 2019 год, которая автоматически увеличивала долги по переплате по социальному обеспечению путем усреднения годового дохода налоговой службы человека за две недели и рассмотрения любого несоответствия с его заявленным доходом Centrelink как денежной задолженности.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее австралийского автоматизированного долгового скандала Robodebt
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Этот метод был незаконным и привел к возникновению сотен тысяч неточных долгов, что сделало Robodebt одним из наиболее изученных недостатков автоматизированного принятия государственных решений.

Глубокое погружение

Centrelink выплачивает пособия раз в две недели, и получатели должны сообщать о своих доходах каждые две недели. Австралийское налоговое управление, напротив, регистрирует доход по финансовому году на каждого работодателя. С 2016 года Департамент социальных служб расширил масштаб онлайн-мероприятия по обеспечению соблюдения требований, позже получившего название Robodebt, которое соответствовало этим двум наборам данных. Если годовой доход ATO не соответствовал тому, что сообщил человек, система делила годовой показатель поровну на две недели работы и рассматривала разницу как переплату. Если лицо не предоставило записи, подтверждающие иное, долг оставался в силе. Основной недостаток прост: доход часто неоднороден. Люди, получающие пособие, часто работают нерегулярно или сезонно, поэтому даже средний показатель мало что говорит о том, сколько они заработали за те или иные две недели. Схема также переложила бремя доказывания на получателей, многие из которых были молоды, бедны, нездоровы или уже не имели платежных ведомостей, полученных много лет назад. Иногда долги передавались частным коллекторам, и в некоторых случаях к ним добавлялась 10-процентная плата за взыскание долгов. В ноябре 2019 года по делу Амато Федеральный суд своим согласием вынес постановление, признав, что долг, основанный на усреднении доходов, не был законно поднят, и правительство перестало полагаться только на усреднение. Коллективный иск «Пригодич против Содружества» был урегулирован в 2020 году и одобрен в 2021 году; Сумма урегулирования была оценена примерно в 1,8 миллиарда австралийских долларов, включая возмещение, погашение долгов и примерно 112 миллионов австралийских долларов в качестве компенсации. Королевская комиссия под руководством Кэтрин Холмс сообщила об этом в июле 2023 года. Она описала схему как грубую и жестокую, сочла ее ни справедливой, ни законной, а также установила, что опасения по поводу ее законности не были приняты во внимание. Он рекомендовал реформы, включая последовательную правовую основу для автоматизированного принятия решений. Распространенное заблуждение состоит в том, что проблема заключалась в программной ошибке. Программное обеспечение в основном делало то, для чего оно было разработано; дизайн и правовая основа были неправильными.

Реальная реализация

Случайная работница гостиничного бизнеса, которая заработала большую часть своего годового дохода в течение напряженного лета и правильно ничего не отчиталась в течение нескольких месяцев о пособиях, получила уведомление о задолженности, потому что усреднение ее летней заработной платы распределило ее летний заработок на две недели, когда у нее не было работы.

Студента университета, который несколько лет назад сменил работу с частичной занятостью, попросили доказать свой двухнедельный доход старыми платежными ведомостями, а когда он не смог их найти, усредненная цифра была использована для привлечения к нему долга.

Получатели, которым сообщили о долгах через письма и через онлайн-портал, а не от социального работника, часто платили суммы, которые они не должны были, потому что оспорить расчет казалось труднее, чем заплатить.

В соответствии с мировым соглашением по коллективному иску, одобренным в 2021 году, правительство возместило долги, полученные за счет усреднения доходов, и выплатило компенсацию — средство правовой защиты, часто упоминаемое в дебатах о том, как следует разрабатывать и пересматривать автоматизированные программы обеспечения соответствия.

Будущее австралийского автоматизированного долгового скандала Robodebt

Robodebt теперь определяет подход Австралии к автоматизированному принятию решений. Вслед за Королевской комиссией правительство Австралии приняло или приняло в принципе все 56 ее рекомендаций и провело консультации по правовой базе для автоматизированных решений в государственном управлении. Правительства других стран, в том числе те, которые используют алгоритмы обнаружения мошенничества или определения соответствия требованиям в сфере социального обеспечения, налогообложения и иммиграции, ссылаются на Robodebt наряду со скандалом с пособиями по уходу за детьми в Нидерландах в качестве предупредительных примеров. Долгосрочные вопросы не являются специфическими для Австралии: имеют ли автоматизированные результаты четкую правовую основу, могут ли пострадавшие люди видеть и оспаривать доводы, и кто внутри агентства несет ответственность за действия в соответствии с предупреждениями. Насколько строго соблюдаются новые правила, еще неизвестно.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the Australia's Robodebt Automated Debt Scandal quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое автоматизированный долговой скандал в Австралии Robodebt?

Robodebt представлял собой схему возмещения долга правительства Австралии, действовавшую с 2016 по 2019 год, которая автоматически увеличивала долги по переплате по социальному обеспечению путем усреднения годового дохода налоговой службы человека за две недели и рассмотрения любого несоответствия с его заявленным доходом Centrelink как денежной задолженности. Этот метод был незаконным и привел к возникновению сотен тысяч неточных долгов, что сделало Robodebt одним из наиболее изученных недостатков автоматизированного принятия государственных решений.

Какой центральный метод расчета делал долги Robodebt ненадежными?

Схема делила годовой доход ATO поровну на две недели и сравнивала его с двухнедельными отчетами Centrelink, которые искажали нерегулярные доходы.

Почему усреднение дохода приводит к ошибкам у многих получателей пособий?

Люди, получающие пособие, часто работают на случайных или сезонных работах, поэтому даже средний показатель мало что говорит о том, сколько они заработали за конкретные две недели.

Как Robodebt изменил тех, кто должен был подтверждать правильный доход?

Бремя перешло на получателей, которым приходилось предъявлять старые платежные ведомости или записи; в противном случае усредненный долг оставался неизменным.

Что признавали постановления Федерального суда по делу Амато 2019 года?

В постановлениях о согласии признавалось, что долг, полученный на основе усреднения доходов, недействителен, и тогда правительство перестало полагаться только на усреднение.

Какова была примерно заявленная общая стоимость урегулирования коллективного иска?

Сумма урегулирования была оценена примерно в 1,8 миллиарда австралийских долларов, включая возмещение, погашение долгов и примерно 112 миллионов австралийских долларов в качестве компенсации.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →