Társadalom ÚTMUTATÓ

AI-hitelhatározatok és nemkívánatos intézkedésekre vonatkozó megjegyzések

Ha az Egyesült Államokban egy hitelező megtagadja a hitelt, vagy más kedvezőtlen lépéseket tesz, az egyenlő hitellehetőségekről szóló törvény és a B. rendelet előírja, hogy a kérelmezőnek meg kell adnia a konkrét fő indokokat, és ez még akkor is érvényes, ha a döntés összetett gépi tanulási modellből származik.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. Az AI-hitelhatározatok jövője és a káros intézkedésekre vonatkozó megjegyzések
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Ez azért fontos, mert az észrevétel az, hogy az emberek hogyan tudják meg, mi sérti a jelentkezésüket, hogyan fedezik fel a hibákat és vitatják a tisztességtelen bánásmódot, ezért a hitelezőknek képesnek kell lenniük elmagyarázni, hogy modelljeik valójában mit tettek.

Mély merülés

A hitelezési esélyegyenlőségről szóló törvény tiltja a diszkriminációt a hitelezés terén, és a B. rendelet alapján előírja a hitelezőknek, hogy értesítsék a kérelmezőket a kérelem alapján tett intézkedésekről, általában a kitöltött kérelem kézhezvételétől számított 30 napon belül. Ha a kereset ellentétes, például elutasítás, a hitelezőnek nyilatkozatot kell adnia a konkrét indokokról, vagy közölnie kell a kérelmezővel, hogyan kérheti ezeket. A B. szabály kommentárja szerint az indokoknak konkrétnak kell lenniük, és a ténylegesen figyelembe vett tényezőkhöz kell kapcsolódniuk; nem elegendőek azok az állítások, amelyek szerint a kérelmező nem felelt meg a belső előírásoknak, vagy nem ért el minősítő pontszámot. A kommentár azt is megjegyzi, hogy négynél több ok feltárása valószínűleg nem lesz hasznos. A Fair Credit Reporting Act külön is megköveteli a fogyasztói jelentés felhasználásáról szóló értesítéseket, beleértve a hitelminősítési információkat és a kulcsfontosságú tényezőket. A CFPB közvetlenül a mesterséges intelligencia felé fordult. A 2022–2003-as körlevélben kijelentette, hogy a hitelezők nem kerülhetik el ezeket a követelményeket, mert az általuk használt technológia túl bonyolult vagy átláthatatlan az okok azonosításához. A 2023-2003-as körlevélben azt írták, hogy a hitelezők nem tudják egyszerűen kiválasztani a legközelebbi okokat a mintanyomtatványokból, ha azok nem írják le pontosan a valódi okokat, ami különösen nagy erővel bír, amikor a modellek nem szokványos adatokat használnak. Az Ügynökség útmutatása és prioritásai idővel változhatnak, de a törvényi és szabályozási követelmények meghatározott okokból továbbra is fennállnak. A hitelezők magyarázati módszerekkel generálják az indokokat. A pontozókártyák hagyományos megközelítése az egyes tulajdonságok pontjait a maximálisan elérhető pontokkal hasonlítja össze. Az összetett modellek esetében a hitelezők gyakran használnak jellemző-hozzárendelési módszereket, például SHAP-értékeket, amelyek egy referenciaponthoz viszonyítva számítják ki az egyes jellemzők hozzájárulását a kérelmező számára. Általános tévhit, hogy minden magyarázhatósági eszköz automatikusan megfelelő indokokat állít elő. A hozzárendelések instabilok lehetnek, feloszthatják a jóváírást a kapcsolódó jellemzők között, és függhetnek a választott hivatkozástól. Az okoknak pontosnak és érthetőnek kell lenniük az egyén számára, amihez nem csak könyvtári felhívás, hanem érvényesítés is szükséges.

Valós megvalósítás

A gradiens-növelt modellt használó hitelező minden egyes elutasított kérelmező esetében kiszámítja, hogy mely jellemzők húzták a pontszámot a legmesszebbre a jóváhagyási küszöb alá, és a legjobbakat leképezi olyan közérthető okokra, mint például a hitelkeretekhez viszonyított magas egyenleg.

A fintech az általános okot, az elégtelen hitelképességet konkrét indokokkal váltja fel, miután a megfelelőségi felülvizsgálat megállapította, hogy az általános kifejezés nem árulja el a pályázóknak, hogy mi vezetett a döntéshez.

A modell a bankszámlák pénzforgalmi adatait használja fel, így a hitelező új indoklást ír le, amelyben leírja a tényleges tényezőt, például a gyakori folyószámlahiteleket, ahelyett, hogy egy mintalapon a legközelebbi tételt választaná.

A hitelkártya-kibocsátó a hitelminősítést és annak kulcstényezőit tartalmazza a közleményben, mivel fogyasztói jelentést használtak, a B rendelet indokai mellett.

Az AI-hitelhatározatok jövője és a káros intézkedésekre vonatkozó megjegyzések

A hitelezők valószínűleg folyamatosan bővítik a jegyzési jegyzésben használt adatokat és modelleket, beleértve a pénzforgalmi adatokat is, ami nyomást gyakorol majd a magyarázati módszerekre, hogy világosan leírják az ismeretlen tényezőket. Az ellentétes magyarázatokkal kapcsolatos kutatások, amelyek megmondják a kérelmezőnek, hogy min kellett volna változtatni, befolyásolhatja az indokok bemutatását, bár ezek megfelelő megjegyzésekké történő fordítása felveti a pontosság kérdését. A végrehajtási hangsúly az ügynökség vezetésében bekövetkezett változásoktól függően változhat, de az ECOA-ban és a B. előírásban foglalt alapvető kötelezettség nem függ egyetlen útmutató dokumentumtól sem, így a tartós gyakorlat az, hogy minden egyes döntést pontosan meg lehet magyarázni.

A gyakorlatba ültetés

Miért számít

  • Kockázat és biztonság. A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni.
  • Tisztább döntések. A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika.
  • Átvágva a felhajtáson. A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását.

Vigyázz

  • Az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összetett.
  • Zavaros felületi termékbiztonság a nagy autonómia melletti igazítással.
  • A nem angol nyelvű és nem szakértő közönségnek csak rossz minőségű forrásokat kell hagynia.

Következő lépések

  1. Különítse el a termékkárok, a visszaélések és az ellenőrzés elvesztésének/hibás beállításának kockázatait.
  2. Kérdezd meg, milyen bizonyítékok változtatnák meg az idővonalakról és a súlyosságról alkotott nézetedet.
  3. Részesítse előnyben az elsődleges forrásokat és a konkrét értékeléseket a marketinges állításokkal szemben.
  4. Határozzon meg egy cselekvési utat: karrier, politika, finanszírozás vagy készségek – nem csak a tudatosság.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the AI Credit Decisions and Adverse Action Notices quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az AI-hitelhatározatok és a kedvezőtlen intézkedésekre vonatkozó figyelmeztetések?

Ha az Egyesült Államokban egy hitelező megtagadja a hitelt, vagy más kedvezőtlen lépéseket tesz, az egyenlő hitellehetőségekről szóló törvény és a B. rendelet előírja, hogy a kérelmezőnek meg kell adnia a konkrét fő indokokat, és ez még akkor is érvényes, ha a döntés összetett gépi tanulási modellből származik. Ez azért fontos, mert az észrevétel az, hogy az emberek hogyan tudják meg, mi sérti a jelentkezésüket, hogyan fedezik fel a hibákat és vitatják a tisztességtelen bánásmódot, ezért a hitelezőknek képesnek kell lenniük elmagyarázni, hogy modelljeik valójában mit tettek.

A „B” rendelet kommentárja szerint miért nem elég az elutasított kérelmezőnek elmondani, hogy nem felel meg a belső előírásoknak?

A B. szabály konkrét okokat ír elő, amelyek a ténylegesen figyelembe vett tényezőkhöz kapcsolódnak. A homályos kijelentések, mint például a belső standardok vagy a minősítő pontszám, nem árulják el a jelentkezőnek, hogy mi történt rosszul.

Mit mondott a CFPB 2022-03 körlevél a komplex hitelmodellekről?

A körlevél kimondta, hogy egy algoritmus bonyolultsága vagy átlátszatlansága nem védekezés a konkrét és pontos indoklás elmulasztása ellen.

A hitelező modellje a bankszámla pénzforgalmi adataira támaszkodik, és a legközelebbi formanyomtatvány indoka csak lazán kapcsolódik. Mit jelez a 2023-03-as körlevél?

A 2023-03 körlevél szerint a hitelezők nem választhatják meg egyszerűen a legközelebbi ellenőrzőlistás okokat, ha azok nem tükrözik pontosan a tényleges okokat.

Mit mond a B rendelet kommentárja a sok ok feltárásáról?

A kommentárból kiderül, hogy négynél több ok valószínűleg nem segít a jelentkezőnek, ezért a közleményekben általában legfeljebb négy szerepel.

A hagyományos pontozókártyák általában hogyan generálnak negatív cselekvési okokat?

A pont-maximum alatti megközelítés azonosítja azokat az attribútumokat, ahol a jelentkező a legtöbb pontot veszítette a lehető legjobb értékhez képest.