ДалееСледующее руководство
Китайский PIPL и автоматизированное принятие решений
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Когда кредитор в США отказывает в кредите или предпринимает другие неблагоприятные действия, Закон о равных кредитных возможностях и Постановление B требуют от него сообщить заявителю конкретные основные причины, и это применимо даже в том случае, если решение принимается на основе сложной модели машинного обучения.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Это важно, потому что уведомление — это то, как люди узнают, что повредило их заявке, выявляют ошибки и оспаривают несправедливое обращение, поэтому кредиторы должны быть в состоянии объяснить, что на самом деле сделали их модели.
Закон о равных кредитных возможностях запрещает дискриминацию в сфере кредитования и посредством Положения B требует от кредиторов уведомлять заявителей о действиях, предпринятых по заявлению, как правило, в течение 30 дней после получения заполненного заявления. Если действие является неблагоприятным, например, отказ, кредитор должен предоставить изложение конкретных причин или сообщить заявителю, как их запросить. В комментарии к Положению B говорится, что причины должны быть конкретными и относиться к фактически рассматриваемым факторам; заявлений о том, что заявитель не соответствует внутренним стандартам или не набрал квалификационный балл, недостаточно. В комментарии также отмечается, что раскрытие более четырех причин вряд ли принесет пользу. Кроме того, Закон о добросовестной кредитной отчетности требует уведомлений при использовании потребительского отчета, включая информацию о кредитном рейтинге и ключевые факторы. CFPB напрямую обратился к ИИ. В циркуляре 2022-03 говорится, что кредиторы не могут обойти эти требования, поскольку используемая ими технология слишком сложна или непрозрачна для выявления причин. В циркуляре 2023-03 говорится, что кредиторы не могут просто выбрать наиболее близкие причины из образцовых форм, если они не точно описывают реальные причины, и этот момент особенно важен, когда модели используют нетрадиционные данные. Рекомендации и приоритеты агентства могут со временем меняться, но законодательные и нормативные требования по конкретным причинам остаются. Кредиторы создают причины с помощью методов объяснения. Традиционный подход к системам показателей сравнивает баллы каждого атрибута с максимально возможными баллами. Для сложных моделей кредиторы часто используют методы атрибуции функций, такие как значения SHAP, вычисляя вклад каждой функции для заявителя относительно контрольной точки. Распространенным заблуждением является то, что любой инструмент объяснительности автоматически создает соответствующие обоснования. Атрибуции могут быть нестабильными, могут распределять оценку между коррелирующими функциями и зависеть от выбранной ссылки. Причины должны быть точными для человека и понятными, что требует подтверждения, а не просто обращения в библиотеку.
Кредитор, использующий модель с градиентным усилением, вычисляет для каждого заявителя, которому было отказано, какие характеристики максимально снизили балл ниже порога одобрения, и сопоставляет лучшие из них с простыми причинами, такими как высокие остатки по сравнению с кредитными лимитами.
Финтех заменяет общую причину «недостаточная кредитоспособность» конкретными причинами после того, как проверка соответствия обнаруживает, что общая фраза не сообщает заявителям, что послужило причиной такого решения.
Модель использует данные о движении денежных средств с банковских счетов, поэтому кредитор записывает новые объяснения причин, описывающие фактический фактор, например, частые овердрафты, вместо того, чтобы выбирать ближайший элемент в образце формы.
Эмитент кредитной карты включает кредитный рейтинг и его ключевые факторы в уведомление, поскольку использовался отчет потребителя, а также причины, предусмотренные Положением B.
Кредиторы, вероятно, продолжат расширять данные и модели, используемые при андеррайтинге, включая данные о движении денежных средств, что будет продолжать оказывать давление на методы объяснения, чтобы четко описывать незнакомые факторы. Исследование противоречащих фактам объяснений, которые сообщают заявителю, что необходимо было бы изменить, может повлиять на то, как излагаются причины, хотя их перевод в соответствующие уведомления поднимает свои собственные вопросы точности. Акцент на правоприменении может меняться в зависимости от изменений в руководстве агентства, но основное обязательство в ECOA и Положении B не зависит от какого-либо конкретного руководящего документа, поэтому устойчивая практика заключается в возможности точно объяснить каждое отдельное решение.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Когда кредитор в США отказывает в кредите или предпринимает другие неблагоприятные действия, Закон о равных кредитных возможностях и Постановление B требуют от него сообщить заявителю конкретные основные причины, и это применимо даже в том случае, если решение принимается на основе сложной модели машинного обучения. Это важно, потому что уведомление — это то, как люди узнают, что повредило их заявке, выявляют ошибки и оспаривают несправедливое обращение, поэтому кредиторы должны быть в состоянии объяснить, что на самом деле сделали их модели.
Правило B требует конкретных причин, связанных с фактически учтенными факторами. Расплывчатые заявления, такие как внутренние стандарты или квалификационный балл, не говорят заявителю, что пошло не так.
В циркуляре говорилось, что сложность или непрозрачность алгоритма не являются оправданием отсутствия конкретных и точных причин.
В циркуляре 2023-03 говорится, что кредиторы не могут просто выбрать наиболее близкие причины из контрольного списка, если они не точно отражают фактические причины.
В комментарии указывается, что более четырех причин вряд ли помогут заявителю, поэтому в уведомлениях обычно указывается до четырех.
Подход «баллы ниже максимума» определяет атрибуты, по которым заявитель потерял наибольшее количество баллов относительно наилучшего возможного значения.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Китайский PIPL и автоматизированное принятие решений
Общество