Tiếp theoHướng dẫn tiếp theo
PIPL của Trung Quốc và quá trình ra quyết định tự động
xã hội
HƯỚNG DẪN xã hội
Khi một tổ chức cho vay tại Mỹ từ chối tín dụng hoặc thực hiện các hành động bất lợi khác, Đạo luật Cơ hội Tín dụng Bình đẳng và Quy định B yêu cầu họ phải cung cấp cho người nộp đơn các lý do chính cụ thể, và điều này áp dụng ngay cả khi quyết định đến từ một mô hình học máy phức tạp.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Điều này quan trọng vì thông báo là cách mọi người tìm hiểu điều gì đã gây bất lợi cho đơn xin của họ, phát hiện các lỗi và thách thức sự đối xử bất công, do đó các tổ chức cho vay phải có khả năng giải thích những gì mô hình của họ thực sự đã làm.
The Equal Credit Opportunity Act prohibits discrimination in credit and, through Regulation B, requires creditors to notify applicants of action taken on an application, generally within 30 days after receiving a completed application. When the action is adverse, such as a denial, the creditor must provide a statement of specific reasons or tell the applicant how to request them. Regulation B's commentary says reasons must be specific and relate to the factors actually considered; statements that the applicant did not meet internal standards or failed to achieve a qualifying score are not sufficient. The commentary also notes that disclosing more than four reasons is not likely to be helpful. Separately, the Fair Credit Reporting Act requires notices when a consumer report was used, including credit score information and key factors. The CFPB has addressed AI directly. In Circular 2022-03 it stated that creditors cannot avoid these requirements because the technology they use is too complex or opaque to identify the reasons. In Circular 2023-03 it said that creditors cannot simply pick the closest reasons from the sample forms if those do not accurately describe the real reasons, a point with particular force when models use unconventional data. Agency guidance and priorities can change over time, but the statutory and regulatory requirement for specific reasons remains. Lenders generate reasons with explanation methods. The traditional approach for scorecards compares each attribute's points with the maximum possible points. For complex models, lenders often use feature attribution methods such as SHAP values, computing each feature's contribution for an applicant relative to a reference point. A common misconception is that any explainability tool automatically produces compliant reasons. Attributions can be unstable, can split credit among correlated features, and depend on the reference chosen. Reasons must be accurate for the individual and understandable, which requires validation, not just a library call.
Một tổ chức cho vay sử dụng mô hình gradient-boosted sẽ tính toán, đối với mỗi người nộp đơn bị từ chối, các đặc điểm nào đã kéo điểm xuống dưới ngưỡng phê duyệt nhiều nhất và ánh xạ những đặc điểm hàng đầu thành các lý do bằng ngôn ngữ thông thường, chẳng hạn như số dư cao so với hạn mức tín dụng.
Một công ty công nghệ tài chính thay thế lý do chung chung, độ tín nhiệm không đủ, bằng các lý do cụ thể sau khi rà soát tuân thủ phát hiện cụm từ chung chung không cho người nộp đơn biết điều gì đã dẫn đến quyết định.
Một mô hình sử dụng dữ liệu dòng tiền từ tài khoản ngân hàng, do đó tổ chức cho vay viết các tuyên bố lý do mới mô tả yếu tố thực tế, chẳng hạn như thường xuyên bị quá hạn, thay vì chọn mục gần nhất trên biểu mẫu mẫu.
Một nhà phát hành thẻ tín dụng bao gồm điểm tín dụng và các yếu tố chính của nó trong thông báo vì một báo cáo người tiêu dùng đã được sử dụng, cùng với các lý do theo Quy định B.
Các tổ chức cho vay có khả năng tiếp tục mở rộng dữ liệu và mô hình được sử dụng trong thẩm định, bao gồm cả dữ liệu dòng tiền, điều này sẽ tiếp tục gây áp lực lên các phương pháp giải thích để mô tả rõ ràng các yếu tố chưa quen thuộc. Nghiên cứu về các giải thích phản thực, cho người nộp đơn biết điều gì cần phải thay đổi, có thể ảnh hưởng đến cách các lý do được trình bày, mặc dù việc chuyển đổi chúng thành các thông báo tuân thủ đặt ra những câu hỏi chính xác của riêng nó. Trọng tâm thực thi có thể thay đổi theo sự thay đổi trong ban lãnh đạo cơ quan, nhưng nghĩa vụ cốt lõi trong ECOA và Quy định B không phụ thuộc vào bất kỳ tài liệu hướng dẫn cụ thể nào, do đó thực hành bền vững là có khả năng giải thích chính xác từng quyết định cá nhân.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Khi một tổ chức cho vay tại Mỹ từ chối tín dụng hoặc thực hiện các hành động bất lợi khác, Đạo luật Cơ hội Tín dụng Bình đẳng và Quy định B yêu cầu họ phải cung cấp cho người nộp đơn các lý do chính cụ thể, và điều này áp dụng ngay cả khi quyết định đến từ một mô hình học máy phức tạp. Điều này quan trọng vì thông báo là cách mọi người tìm hiểu điều gì đã gây bất lợi cho đơn xin của họ, phát hiện các lỗi và thách thức sự đối xử bất công, do đó các tổ chức cho vay phải có khả năng giải thích những gì mô hình của họ thực sự đã làm.
Quy định B yêu cầu các lý do cụ thể gắn liền với các yếu tố thực tế được xem xét. Các tuyên bố mơ hồ như tiêu chuẩn nội bộ hoặc điểm đủ điều kiện không cho người nộp đơn biết điều gì đã xảy ra sai.
Thông tư nêu rõ rằng độ phức tạp hoặc tính mờ ám của một thuật toán không phải là biện hộ cho việc không cung cấp các lý do cụ thể và chính xác.
Thông tư 2023-03 nói rằng các chủ nợ không thể đơn giản chọn các lý do danh sách kiểm tra gần nhất nếu chúng không phản ánh chính xác các lý do thực tế.
Bình luận chỉ ra rằng nhiều hơn bốn lý do có khả năng không giúp ích gì cho người nộp đơn, đó là lý do tại sao các thông báo thường liệt kê tối đa bốn lý do.
Phương pháp điểm dưới mức tối đa xác định các thuộc tính mà người nộp đơn mất nhiều điểm nhất so với giá trị tốt nhất có thể.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
PIPL của Trung Quốc và quá trình ra quyết định tự động
xã hội