SeterusnyaPanduan seterusnya
PIPL China dan Penentuan Keputusan Automatik
Masyarakat
PANDUAN Masyarakat
Apabila pemberi pinjaman di AS menafikan kredit atau mengambil tindakan buruk lain, Akta Peluang Kredit Sama Rata dan Peraturan B memerlukannya untuk memberikan pemohon alasan utama yang khusus, dan ini terpakai walaupun keputusan itu datang daripada model pembelajaran mesin yang kompleks.
Dengar panduan iniAI-diceritakan · ~3 min
Ini penting kerana notis ialah cara orang mengetahui perkara yang menjejaskan permohonan mereka, ralat mengesan dan mencabar layanan yang tidak adil, jadi pemberi pinjaman mesti dapat menjelaskan perkara yang sebenarnya dilakukan oleh model mereka.
The Equal Credit Opportunity Act prohibits discrimination in credit and, through Regulation B, requires creditors to notify applicants of action taken on an application, generally within 30 days after receiving a completed application. When the action is adverse, such as a denial, the creditor must provide a statement of specific reasons or tell the applicant how to request them. Regulation B's commentary says reasons must be specific and relate to the factors actually considered; statements that the applicant did not meet internal standards or failed to achieve a qualifying score are not sufficient. The commentary also notes that disclosing more than four reasons is not likely to be helpful. Separately, the Fair Credit Reporting Act requires notices when a consumer report was used, including credit score information and key factors. The CFPB has addressed AI directly. In Circular 2022-03 it stated that creditors cannot avoid these requirements because the technology they use is too complex or opaque to identify the reasons. In Circular 2023-03 it said that creditors cannot simply pick the closest reasons from the sample forms if those do not accurately describe the real reasons, a point with particular force when models use unconventional data. Agency guidance and priorities can change over time, but the statutory and regulatory requirement for specific reasons remains. Lenders generate reasons with explanation methods. The traditional approach for scorecards compares each attribute's points with the maximum possible points. For complex models, lenders often use feature attribution methods such as SHAP values, computing each feature's contribution for an applicant relative to a reference point. A common misconception is that any explainability tool automatically produces compliant reasons. Attributions can be unstable, can split credit among correlated features, and depend on the reference chosen. Reasons must be accurate for the individual and understandable, which requires validation, not just a library call.
Pemberi pinjaman menggunakan model yang dirangsang kecerunan mengira, untuk setiap pemohon yang ditolak, yang menampilkan skor yang menarik paling jauh di bawah potongan kelulusan dan memetakan yang teratas kepada sebab bahasa biasa seperti baki tinggi berbanding had kredit.
Fintech menggantikan sebab generik, kelayakan kredit yang tidak mencukupi, dengan sebab khusus selepas semakan pematuhan mendapati frasa generik tidak memberitahu pemohon perkara yang mendorong keputusan itu.
Model menggunakan data aliran tunai daripada akaun bank, jadi pemberi pinjaman menulis penyata sebab baharu yang menerangkan faktor sebenar, seperti overdraf yang kerap, dan bukannya memilih item terdekat pada borang sampel.
Pengeluar kad kredit memasukkan skor kredit dan faktor utamanya dalam notis kerana laporan pengguna telah digunakan, bersama-sama sebab Peraturan B.
Pemberi pinjaman berkemungkinan akan terus mengembangkan data dan model yang digunakan dalam pengunderaitan, termasuk data aliran tunai, yang akan mengekalkan tekanan pada kaedah penjelasan untuk menerangkan faktor yang tidak diketahui dengan jelas. Penyelidikan tentang penjelasan berlawanan, yang memberitahu pemohon perkara yang perlu diubah, mungkin mempengaruhi cara alasan dikemukakan, walaupun menterjemahkannya ke dalam notis patuh menimbulkan persoalan ketepatannya sendiri. Penekanan penguatkuasaan mungkin berbeza dengan perubahan dalam kepimpinan agensi, tetapi kewajipan teras dalam ECOA dan Peraturan B tidak bergantung pada mana-mana dokumen panduan tertentu, jadi amalan yang tahan lama adalah untuk dapat menjelaskan setiap keputusan individu dengan tepat.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Apabila pemberi pinjaman di AS menafikan kredit atau mengambil tindakan buruk lain, Akta Peluang Kredit Sama Rata dan Peraturan B memerlukannya untuk memberikan pemohon alasan utama yang khusus, dan ini terpakai walaupun keputusan itu datang daripada model pembelajaran mesin yang kompleks. Ini penting kerana notis ialah cara orang mengetahui perkara yang menjejaskan permohonan mereka, ralat mengesan dan mencabar layanan yang tidak adil, jadi pemberi pinjaman mesti dapat menjelaskan perkara yang sebenarnya dilakukan oleh model mereka.
Peraturan B memerlukan alasan khusus yang terikat dengan faktor yang sebenarnya dipertimbangkan. Kenyataan samar-samar seperti piawaian dalaman atau skor kelayakan tidak memberitahu pemohon apa yang berlaku.
Pekeliling itu menyatakan bahawa kerumitan atau kelegapan algoritma bukanlah satu pertahanan kerana gagal memberikan alasan yang spesifik dan tepat.
Pekeliling 2023-03 berkata pemiutang tidak boleh hanya memilih sebab senarai semak terdekat jika mereka tidak menggambarkan dengan tepat sebab sebenar.
Ulasan menunjukkan bahawa lebih daripada empat sebab tidak mungkin membantu pemohon, itulah sebabnya notis biasanya menyenaraikan sehingga empat.
Pendekatan mata-bawah-maksimum mengenal pasti atribut di mana pemohon kehilangan mata terbanyak berbanding dengan nilai terbaik yang mungkin.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
PIPL China dan Penentuan Keputusan Automatik
Masyarakat