LegközelebbKövetkező útmutató
China’s PIPL and Automated Decision-Making
Társadalom
Társadalom ÚTMUTATÓ
Ha az Egyesült Államokban egy hitelező megtagadja a hitelt, vagy más kedvezőtlen lépéseket tesz, az egyenlő hitellehetőségekről szóló törvény és a B. rendelet előírja, hogy a kérelmezőnek meg kell adnia a konkrét fő indokokat, és ez még akkor is érvényes, ha a döntés összetett gépi tanulási modellből származik.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ez azért fontos, mert az észrevétel az, hogy az emberek hogyan tudják meg, mi sérti a jelentkezésüket, hogyan fedezik fel a hibákat és vitatják a tisztességtelen bánásmódot, ezért a hitelezőknek képesnek kell lenniük elmagyarázni, hogy modelljeik valójában mit tettek.
A hitelezési esélyegyenlőségről szóló törvény tiltja a diszkriminációt a hitelezés terén, és a B. rendelet alapján előírja a hitelezőknek, hogy értesítsék a kérelmezőket a kérelem alapján tett intézkedésekről, általában a kitöltött kérelem kézhezvételétől számított 30 napon belül. Ha a kereset ellentétes, például elutasítás, a hitelezőnek nyilatkozatot kell adnia a konkrét indokokról, vagy közölnie kell a kérelmezővel, hogyan kérheti ezeket. A B. szabály kommentárja szerint az indokoknak konkrétnak kell lenniük, és a ténylegesen figyelembe vett tényezőkhöz kell kapcsolódniuk; nem elegendőek azok az állítások, amelyek szerint a kérelmező nem felelt meg a belső előírásoknak, vagy nem ért el minősítő pontszámot. A kommentár azt is megjegyzi, hogy négynél több ok feltárása valószínűleg nem lesz hasznos. A Fair Credit Reporting Act külön is megköveteli a fogyasztói jelentés felhasználásáról szóló értesítéseket, beleértve a hitelminősítési információkat és a kulcsfontosságú tényezőket. A CFPB közvetlenül a mesterséges intelligencia felé fordult. A 2022–2003-as körlevélben kijelentette, hogy a hitelezők nem kerülhetik el ezeket a követelményeket, mert az általuk használt technológia túl bonyolult vagy átláthatatlan az okok azonosításához. A 2023-2003-as körlevélben azt írták, hogy a hitelezők nem tudják egyszerűen kiválasztani a legközelebbi okokat a mintanyomtatványokból, ha azok nem írják le pontosan a valódi okokat, ami különösen nagy erővel bír, amikor a modellek nem szokványos adatokat használnak. Az Ügynökség útmutatása és prioritásai idővel változhatnak, de a törvényi és szabályozási követelmények meghatározott okokból továbbra is fennállnak. A hitelezők magyarázati módszerekkel generálják az indokokat. A pontozókártyák hagyományos megközelítése az egyes tulajdonságok pontjait a maximálisan elérhető pontokkal hasonlítja össze. Az összetett modellek esetében a hitelezők gyakran használnak jellemző-hozzárendelési módszereket, például SHAP-értékeket, amelyek egy referenciaponthoz viszonyítva számítják ki az egyes jellemzők hozzájárulását a kérelmező számára. Általános tévhit, hogy minden magyarázhatósági eszköz automatikusan megfelelő indokokat állít elő. A hozzárendelések instabilok lehetnek, feloszthatják a jóváírást a kapcsolódó jellemzők között, és függhetnek a választott hivatkozástól. Az okoknak pontosnak és érthetőnek kell lenniük az egyén számára, amihez nem csak könyvtári felhívás, hanem érvényesítés is szükséges.
A gradiens-növelt modellt használó hitelező minden egyes elutasított kérelmező esetében kiszámítja, hogy mely jellemzők húzták a pontszámot a legmesszebbre a jóváhagyási küszöb alá, és a legjobbakat leképezi olyan közérthető okokra, mint például a hitelkeretekhez viszonyított magas egyenleg.
A fintech az általános okot, az elégtelen hitelképességet konkrét indokokkal váltja fel, miután a megfelelőségi felülvizsgálat megállapította, hogy az általános kifejezés nem árulja el a pályázóknak, hogy mi vezetett a döntéshez.
A modell a bankszámlák pénzforgalmi adatait használja fel, így a hitelező új indoklást ír le, amelyben leírja a tényleges tényezőt, például a gyakori folyószámlahiteleket, ahelyett, hogy egy mintalapon a legközelebbi tételt választaná.
A hitelkártya-kibocsátó a hitelminősítést és annak kulcstényezőit tartalmazza a közleményben, mivel fogyasztói jelentést használtak, a B rendelet indokai mellett.
A hitelezők valószínűleg folyamatosan bővítik a jegyzési jegyzésben használt adatokat és modelleket, beleértve a pénzforgalmi adatokat is, ami nyomást gyakorol majd a magyarázati módszerekre, hogy világosan leírják az ismeretlen tényezőket. Az ellentétes magyarázatokkal kapcsolatos kutatások, amelyek megmondják a kérelmezőnek, hogy min kellett volna változtatni, befolyásolhatja az indokok bemutatását, bár ezek megfelelő megjegyzésekké történő fordítása felveti a pontosság kérdését. A végrehajtási hangsúly az ügynökség vezetésében bekövetkezett változásoktól függően változhat, de az ECOA-ban és a B. előírásban foglalt alapvető kötelezettség nem függ egyetlen útmutató dokumentumtól sem, így a tartós gyakorlat az, hogy minden egyes döntést pontosan meg lehet magyarázni.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Ha az Egyesült Államokban egy hitelező megtagadja a hitelt, vagy más kedvezőtlen lépéseket tesz, az egyenlő hitellehetőségekről szóló törvény és a B. rendelet előírja, hogy a kérelmezőnek meg kell adnia a konkrét fő indokokat, és ez még akkor is érvényes, ha a döntés összetett gépi tanulási modellből származik. Ez azért fontos, mert az észrevétel az, hogy az emberek hogyan tudják meg, mi sérti a jelentkezésüket, hogyan fedezik fel a hibákat és vitatják a tisztességtelen bánásmódot, ezért a hitelezőknek képesnek kell lenniük elmagyarázni, hogy modelljeik valójában mit tettek.
A B. szabály konkrét okokat ír elő, amelyek a ténylegesen figyelembe vett tényezőkhöz kapcsolódnak. A homályos kijelentések, mint például a belső standardok vagy a minősítő pontszám, nem árulják el a jelentkezőnek, hogy mi történt rosszul.
A körlevél kimondta, hogy egy algoritmus bonyolultsága vagy átlátszatlansága nem védekezés a konkrét és pontos indoklás elmulasztása ellen.
A 2023-03 körlevél szerint a hitelezők nem választhatják meg egyszerűen a legközelebbi ellenőrzőlistás okokat, ha azok nem tükrözik pontosan a tényleges okokat.
A kommentárból kiderül, hogy négynél több ok valószínűleg nem segít a jelentkezőnek, ezért a közleményekben általában legfeljebb négy szerepel.
A pont-maximum alatti megközelítés azonosítja azokat az attribútumokat, ahol a jelentkező a legtöbb pontot veszítette a lehető legjobb értékhez képest.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
China’s PIPL and Automated Decision-Making
Társadalom