DalšíDalší průvodce
Čínský PIPL a automatizované rozhodování
Společnost
PRŮVODCE společností
Když věřitel v USA odmítne úvěr nebo podnikne jiné nepříznivé kroky, zákon o rovných úvěrových příležitostech a nařízení B vyžadují, aby žadateli uvedl konkrétní hlavní důvody, a to platí i v případě, že rozhodnutí pochází ze složitého modelu strojového učení.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Je to důležité, protože oznámení je to, jak se lidé dozvědí, co poškodilo jejich aplikaci, odhalují chyby a napadají nespravedlivé zacházení, takže věřitelé musí být schopni vysvětlit, co jejich modely skutečně dělaly.
Zákon o rovných úvěrových příležitostech zakazuje diskriminaci v oblasti úvěrů a prostřednictvím nařízení B požaduje, aby věřitelé informovali žadatele o opatřeních přijatých na základě žádosti, obvykle do 30 dnů po obdržení vyplněné žádosti. Je-li žaloba nepříznivá, jako je zamítnutí, musí věřitel poskytnout prohlášení o konkrétních důvodech nebo sdělit žadateli, jak o ně požádat. Komentář k nařízení B říká, že důvody musí být konkrétní a musí se týkat skutečně zvažovaných faktorů; prohlášení, že žadatel nesplnil interní standardy nebo nedosáhl kvalifikačního skóre, nestačí. Komentář také poznamenává, že zveřejnění více než čtyř důvodů pravděpodobně nebude užitečné. Samostatně, Fair Credit Reporting Act vyžaduje upozornění, kdy byla použita spotřebitelská zpráva, včetně informací o kreditním skóre a klíčových faktorech. CFPB oslovil AI přímo. V oběžníku 2022-03 se uvádí, že věřitelé se těmto požadavkům nemohou vyhnout, protože technologie, kterou používají, je příliš složitá nebo neprůhledná na to, aby identifikovala důvody. V oběžníku 2023-03 se uvádí, že věřitelé nemohou jednoduše vybrat nejbližší důvody ze vzorových formulářů, pokud tyto přesně nepopisují skutečné důvody, což je bod se zvláštní silou, když modely používají nekonvenční data. Pokyny a priority agentury se mohou v průběhu času měnit, ale zákonný a regulační požadavek ze specifických důvodů zůstává. Věřitelé generují důvody pomocí metod vysvětlení. Tradiční přístup pro skórkarty porovnává body každého atributu s maximálním možným počtem bodů. U složitých modelů věřitelé často používají metody přiřazování prvků, jako jsou hodnoty SHAP, přičemž počítají příspěvek každého prvku pro žadatele vzhledem k referenčnímu bodu. Obvyklá mylná představa je, že jakýkoli nástroj pro vysvětlení automaticky vytváří vyhovující důvody. Atribuce mohou být nestabilní, mohou rozdělit kredit mezi související prvky a záviset na zvolené referenci. Důvody musí být pro jednotlivce přesné a srozumitelné, což vyžaduje ověření, nejen volání do knihovny.
Věřitel, který používá model se zesíleným gradientem, počítá pro každého zamítnutého žadatele, jehož funkce posunula skóre nejdále pod hranici schvalování a mapuje ty nejlepší na srozumitelné důvody, jako jsou vysoké zůstatky vzhledem k úvěrovým limitům.
Fintech nahrazuje obecný důvod, nedostatečnou bonitu, konkrétními důvody poté, co kontrola souladu zjistí, že obecná fráze žadatelům neříká, co vedlo k rozhodnutí.
Model využívá údaje o peněžních tocích z bankovních účtů, takže věřitel zapisuje nové důvody popisující skutečný faktor, jako jsou časté přečerpání, namísto výběru nejbližší položky na vzorovém formuláři.
Vydavatel kreditní karty uvede v oznámení kreditní skóre a jeho klíčové faktory, protože byla použita zpráva pro spotřebitele spolu s důvody nařízení B.
Věřitelé budou pravděpodobně nadále rozšiřovat data a modely používané při upisování, včetně údajů o peněžních tocích, což bude udržovat tlak na vysvětlovací metody, které jasně popisují neznámé faktory. Výzkum kontrafaktuálních vysvětlení, která žadateli sdělí, co by bylo potřeba změnit, může ovlivnit způsob, jakým jsou důvody prezentovány, i když jejich převedení do vyhovujících oznámení vyvolává vlastní otázky týkající se přesnosti. Důraz na prosazování se může lišit v závislosti na změnách ve vedení agentury, ale základní povinnost v ECOA a nařízení B nezávisí na žádném konkrétním dokumentu s pokyny, takže trvalou praxí je být schopen přesně vysvětlit každé jednotlivé rozhodnutí.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Když věřitel v USA odmítne úvěr nebo podnikne jiné nepříznivé kroky, zákon o rovných úvěrových příležitostech a nařízení B vyžadují, aby žadateli uvedl konkrétní hlavní důvody, a to platí i v případě, že rozhodnutí pochází ze složitého modelu strojového učení. Je to důležité, protože oznámení je to, jak se lidé dozvědí, co poškodilo jejich aplikaci, odhalují chyby a napadají nespravedlivé zacházení, takže věřitelé musí být schopni vysvětlit, co jejich modely skutečně dělaly.
Nařízení B vyžaduje konkrétní důvody spojené se skutečně zvažovanými faktory. Vágní prohlášení, jako jsou interní standardy nebo kvalifikační skóre, neříkají žadateli, co se pokazilo.
Oběžník uvedl, že složitost nebo neprůhlednost algoritmu není obranou za to, že neuvede konkrétní a přesné důvody.
Oběžník 2023-03 uvedl, že věřitelé si nemohou jednoduše vybrat nejbližší důvody kontrolního seznamu, pokud přesně neodrážejí skutečné důvody.
Komentář uvádí, že žadateli pravděpodobně nepomohou více než čtyři důvody, a proto oznámení obvykle uvádějí až čtyři.
Přístup bodů pod maximem identifikuje atributy, kde žadatel ztratil nejvíce bodů v poměru k nejlepší možné hodnotě.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Čínský PIPL a automatizované rozhodování
Společnost