ДаліНаступний посібник
GDPR та автоматизоване прийняття рішень
суспільство
Суспільство GUIDE
Кредитні рішення щодо AI та повідомлення про несприятливі дії
Коли кредитор у США відмовляє у кредиті або вживає інших негативних заходів, Закон про рівні кредитні можливості та Регламент B вимагають від нього надати заявнику конкретні основні причини, і це стосується навіть тих випадків, коли рішення приймається на основі складної моделі машинного навчання.
На цій сторінці4 хвилини читання
Огляд
Це важливо, оскільки сповіщення — це те, як люди дізнаються, що зашкодило їхній заявці, виявляють помилки та оскаржують несправедливе ставлення, тому кредитори повинні мати можливість пояснити, що насправді зробили їхні моделі.
Глибоке занурення
Закон про рівні кредитні можливості забороняє дискримінацію в кредитуванні та, відповідно до Положення B, вимагає від кредиторів повідомляти заявників про дії, вжиті щодо заявки, як правило, протягом 30 днів після отримання заповненої заявки. Якщо позов є несприятливим, наприклад відмова, кредитор повинен надати виклад конкретних причин або повідомити заявнику, як їх вимагати. У коментарі до Положення B сказано, що причини мають бути конкретними та стосуватися фактично розглянутих факторів; заяв про те, що заявник не відповідав внутрішнім стандартам або не отримав кваліфікаційний бал, недостатньо. У коментарі також зазначається, що розкриття більше чотирьох причин навряд чи буде корисним. Окремо Закон про справедливу кредитну звітність вимагає сповіщень про використання звіту споживача, включно з інформацією про кредитну оцінку та ключовими факторами. CFPB звернувся безпосередньо до ШІ. У Циркулярі 2022-03 зазначено, що кредитори не можуть уникнути цих вимог, оскільки технологія, яку вони використовують, є надто складною або непрозорою, щоб визначити причини. У циркулярі 2023-03 сказано, що кредитори не можуть просто вибрати найближчі причини із зразків форм, якщо вони не точно описують справжні причини, що особливо важливо, коли моделі використовують нетрадиційні дані. Керівництво та пріоритети агентства можуть змінюватися з часом, але законодавчі та нормативні вимоги з певних причин залишаються. Кредитори генерують причини за допомогою методів пояснення. Традиційний підхід до систем показників порівнює бали кожного атрибута з максимально можливими балами. Для складних моделей кредитори часто використовують методи атрибуції ознак, такі як значення SHAP, обчислюючи внесок кожної функції для заявника відносно контрольної точки. Поширеною помилкою є те, що будь-який інструмент пояснюваності автоматично створює відповідні причини. Атрибуції можуть бути нестабільними, можуть розподіляти кредит між корельованими функціями та залежати від вибраного посилання. Причини мають бути точними для людини та зрозумілими, що потребує підтвердження, а не просто звернення до бібліотеки.
Стратегічний вплив
Ризики та безпека
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Чіткіші рішення
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Прорізаючи ажіотаж
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Майбутнє рішень щодо кредитування AI та повідомлень про несприятливі дії
Кредитори, ймовірно, продовжуватимуть розширювати дані та моделі, що використовуються в андеррайтингу, включно з даними про грошові потоки, що спричинить тиск на методи пояснення для чіткого опису незнайомих факторів. Дослідження контрфактичних пояснень, які повідомляють заявнику, що потрібно було б змінити, може вплинути на те, як подаються причини, хоча перетворення їх у відповідні повідомлення викликає власні питання щодо точності. Акцент на правозастосування може змінюватися залежно від змін у керівництві агентства, але основне зобов’язання в ECOA та Положенні B не залежить від жодного конкретного керівного документа, тому довготривалою практикою є можливість точно пояснити кожне окреме рішення.
Реалізація в реальному світі
Кредитор, який використовує модель із градієнтним підсиленням, обчислює для кожного заявника, якому було відмовлено, які функції підтягнули оцінку нижче межі схвалення, і зіставляє найвищі з таких причин простою мовою, як високі баланси щодо кредитних лімітів.
Фінтех замінює загальну причину, недостатню кредитоспроможність, конкретними причинами після того, як перевірка відповідності виявляє, що загальна фраза не повідомляє заявникам, що стало причиною прийняття рішення.
Модель використовує дані про рух готівки з банківських рахунків, тому позикодавець пише нові заяви про причину, описуючи фактичний фактор, наприклад часті овердрафти, а не вибирає найближчий пункт у зразку форми.
Емітент кредитної картки вказує кредитну оцінку та її ключові фактори в повідомленні, оскільки використовувався звіт споживача, а також причини Положення B.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Credit Decisions and Adverse Action Notices quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часті запитання
Що таке Кредитні рішення та повідомлення про несприятливі дії AI?
Коли кредитор у США відмовляє у кредиті або вживає інших негативних заходів, Закон про рівні кредитні можливості та Регламент B вимагають від нього надати заявнику конкретні основні причини, і це стосується навіть тих випадків, коли рішення приймається на основі складної моделі машинного навчання. Це важливо, оскільки сповіщення — це те, як люди дізнаються, що зашкодило їхній заявці, виявляють помилки та оскаржують несправедливе ставлення, тому кредитори повинні мати можливість пояснити, що насправді зробили їхні моделі.
Відповідно до коментаря Положення B, чому недостатньо сказати заявнику, якому відмовлено, що він не відповідає внутрішнім стандартам?
Положення B вимагає конкретних причин, пов’язаних із фактично розглянутими факторами. Розпливчасті твердження, такі як внутрішні стандарти чи кваліфікаційний бал, не говорять абітурієнту, що пішло не так.
Що в Циркулярі CFPB 2022-03 сказано про складні кредитні моделі?
У циркулярі зазначалося, що складність або непрозорість алгоритму не є захистом від відсутності конкретних і точних причин.
Модель позикодавця спирається на дані про рух грошових коштів на банківському рахунку, і найближча причина форми зразка пов’язана лише незначно. Що вказує Циркуляр 2023-03?
У циркулярі 2023-03 зазначено, що кредитори не можуть просто вибрати причини, які є найближчими до контрольного списку, якщо вони точно не відображають фактичні причини.
Що сказано в коментарі до правила B про розкриття багатьох причин?
У коментарі зазначено, що більше ніж чотири причини навряд чи допоможуть заявнику, тому в повідомленнях зазвичай перераховується до чотирьох.
Як традиційні системи показників зазвичай породжують причини несприятливих дій?
Підхід «бали нижче максимуму» визначає атрибути, за якими заявник втратив найбільшу кількість балів порівняно з найкращим можливим значенням.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми