РУКОВОДСТВО ПО ОБЩЕСТВУ

Решения о предоставлении кредитов AI и уведомления о нежелательных действиях

Когда кредитор в США отказывает в кредите или предпринимает другие неблагоприятные действия, Закон о равных кредитных возможностях и Постановление B требуют от него сообщить заявителю конкретные основные причины, и это применимо даже в том случае, если решение принимается на основе сложной модели машинного обучения.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее кредитных решений AI и уведомлений о неблагоприятных действиях
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Это важно, потому что уведомление — это то, как люди узнают, что повредило их заявке, выявляют ошибки и оспаривают несправедливое обращение, поэтому кредиторы должны быть в состоянии объяснить, что на самом деле сделали их модели.

Глубокое погружение

Закон о равных кредитных возможностях запрещает дискриминацию в сфере кредитования и посредством Положения B требует от кредиторов уведомлять заявителей о действиях, предпринятых по заявлению, как правило, в течение 30 дней после получения заполненного заявления. Если действие является неблагоприятным, например, отказ, кредитор должен предоставить изложение конкретных причин или сообщить заявителю, как их запросить. В комментарии к Положению B говорится, что причины должны быть конкретными и относиться к фактически рассматриваемым факторам; заявлений о том, что заявитель не соответствует внутренним стандартам или не набрал квалификационный балл, недостаточно. В комментарии также отмечается, что раскрытие более четырех причин вряд ли принесет пользу. Кроме того, Закон о добросовестной кредитной отчетности требует уведомлений при использовании потребительского отчета, включая информацию о кредитном рейтинге и ключевые факторы. CFPB напрямую обратился к ИИ. В циркуляре 2022-03 говорится, что кредиторы не могут обойти эти требования, поскольку используемая ими технология слишком сложна или непрозрачна для выявления причин. В циркуляре 2023-03 говорится, что кредиторы не могут просто выбрать наиболее близкие причины из образцовых форм, если они не точно описывают реальные причины, и этот момент особенно важен, когда модели используют нетрадиционные данные. Рекомендации и приоритеты агентства могут со временем меняться, но законодательные и нормативные требования по конкретным причинам остаются. Кредиторы создают причины с помощью методов объяснения. Традиционный подход к системам показателей сравнивает баллы каждого атрибута с максимально возможными баллами. Для сложных моделей кредиторы часто используют методы атрибуции функций, такие как значения SHAP, вычисляя вклад каждой функции для заявителя относительно контрольной точки. Распространенным заблуждением является то, что любой инструмент объяснительности автоматически создает соответствующие обоснования. Атрибуции могут быть нестабильными, могут распределять оценку между коррелирующими функциями и зависеть от выбранной ссылки. Причины должны быть точными для человека и понятными, что требует подтверждения, а не просто обращения в библиотеку.

Реальная реализация

Кредитор, использующий модель с градиентным усилением, вычисляет для каждого заявителя, которому было отказано, какие характеристики максимально снизили балл ниже порога одобрения, и сопоставляет лучшие из них с простыми причинами, такими как высокие остатки по сравнению с кредитными лимитами.

Финтех заменяет общую причину «недостаточная кредитоспособность» конкретными причинами после того, как проверка соответствия обнаруживает, что общая фраза не сообщает заявителям, что послужило причиной такого решения.

Модель использует данные о движении денежных средств с банковских счетов, поэтому кредитор записывает новые объяснения причин, описывающие фактический фактор, например, частые овердрафты, вместо того, чтобы выбирать ближайший элемент в образце формы.

Эмитент кредитной карты включает кредитный рейтинг и его ключевые факторы в уведомление, поскольку использовался отчет потребителя, а также причины, предусмотренные Положением B.

Будущее кредитных решений AI и уведомлений о неблагоприятных действиях

Кредиторы, вероятно, продолжат расширять данные и модели, используемые при андеррайтинге, включая данные о движении денежных средств, что будет продолжать оказывать давление на методы объяснения, чтобы четко описывать незнакомые факторы. Исследование противоречащих фактам объяснений, которые сообщают заявителю, что необходимо было бы изменить, может повлиять на то, как излагаются причины, хотя их перевод в соответствующие уведомления поднимает свои собственные вопросы точности. Акцент на правоприменении может меняться в зависимости от изменений в руководстве агентства, но основное обязательство в ECOA и Положении B не зависит от какого-либо конкретного руководящего документа, поэтому устойчивая практика заключается в возможности точно объяснить каждое отдельное решение.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the AI Credit Decisions and Adverse Action Notices quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое решения AI по кредитам и уведомления о неблагоприятных действиях?

Когда кредитор в США отказывает в кредите или предпринимает другие неблагоприятные действия, Закон о равных кредитных возможностях и Постановление B требуют от него сообщить заявителю конкретные основные причины, и это применимо даже в том случае, если решение принимается на основе сложной модели машинного обучения. Это важно, потому что уведомление — это то, как люди узнают, что повредило их заявке, выявляют ошибки и оспаривают несправедливое обращение, поэтому кредиторы должны быть в состоянии объяснить, что на самом деле сделали их модели.

Согласно комментарию Положения B, почему недостаточно сказать заявителю, которому отказано, что он не соответствует внутренним стандартам?

Правило B требует конкретных причин, связанных с фактически учтенными факторами. Расплывчатые заявления, такие как внутренние стандарты или квалификационный балл, не говорят заявителю, что пошло не так.

Что говорится в циркуляре CFPB 2022-03 о сложных кредитных моделях?

В циркуляре говорилось, что сложность или непрозрачность алгоритма не являются оправданием отсутствия конкретных и точных причин.

Модель кредитора опирается на данные о движении денежных средств по банковским счетам, а причина ближайшей выборочной формы связана лишь слабо. Что указывает циркуляр 2023-03?

В циркуляре 2023-03 говорится, что кредиторы не могут просто выбрать наиболее близкие причины из контрольного списка, если они не точно отражают фактические причины.

Что говорится в комментарии к Положению Б о раскрытии многих причин?

В комментарии указывается, что более четырех причин вряд ли помогут заявителю, поэтому в уведомлениях обычно указывается до четырех.

Как традиционные системы показателей обычно определяют причины неблагоприятных действий?

Подход «баллы ниже максимума» определяет атрибуты, по которым заявитель потерял наибольшее количество баллов относительно наилучшего возможного значения.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →