HƯỚNG DẪN xã hội

Quyết định tín dụng AI và thông báo hành động bất lợi

Khi một tổ chức cho vay tại Mỹ từ chối tín dụng hoặc thực hiện các hành động bất lợi khác, Đạo luật Cơ hội Tín dụng Bình đẳng và Quy định B yêu cầu họ phải cung cấp cho người nộp đơn các lý do chính cụ thể, và điều này áp dụng ngay cả khi quyết định đến từ một mô hình học máy phức tạp.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của các quyết định tín dụng AI và thông báo hành động bất lợi
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Điều này quan trọng vì thông báo là cách mọi người tìm hiểu điều gì đã gây bất lợi cho đơn xin của họ, phát hiện các lỗi và thách thức sự đối xử bất công, do đó các tổ chức cho vay phải có khả năng giải thích những gì mô hình của họ thực sự đã làm.

Lặn sâu

The Equal Credit Opportunity Act prohibits discrimination in credit and, through Regulation B, requires creditors to notify applicants of action taken on an application, generally within 30 days after receiving a completed application. When the action is adverse, such as a denial, the creditor must provide a statement of specific reasons or tell the applicant how to request them. Regulation B's commentary says reasons must be specific and relate to the factors actually considered; statements that the applicant did not meet internal standards or failed to achieve a qualifying score are not sufficient. The commentary also notes that disclosing more than four reasons is not likely to be helpful. Separately, the Fair Credit Reporting Act requires notices when a consumer report was used, including credit score information and key factors. The CFPB has addressed AI directly. In Circular 2022-03 it stated that creditors cannot avoid these requirements because the technology they use is too complex or opaque to identify the reasons. In Circular 2023-03 it said that creditors cannot simply pick the closest reasons from the sample forms if those do not accurately describe the real reasons, a point with particular force when models use unconventional data. Agency guidance and priorities can change over time, but the statutory and regulatory requirement for specific reasons remains. Lenders generate reasons with explanation methods. The traditional approach for scorecards compares each attribute's points with the maximum possible points. For complex models, lenders often use feature attribution methods such as SHAP values, computing each feature's contribution for an applicant relative to a reference point. A common misconception is that any explainability tool automatically produces compliant reasons. Attributions can be unstable, can split credit among correlated features, and depend on the reference chosen. Reasons must be accurate for the individual and understandable, which requires validation, not just a library call.

Triển khai trong thế giới thực

Một tổ chức cho vay sử dụng mô hình gradient-boosted sẽ tính toán, đối với mỗi người nộp đơn bị từ chối, các đặc điểm nào đã kéo điểm xuống dưới ngưỡng phê duyệt nhiều nhất và ánh xạ những đặc điểm hàng đầu thành các lý do bằng ngôn ngữ thông thường, chẳng hạn như số dư cao so với hạn mức tín dụng.

Một công ty công nghệ tài chính thay thế lý do chung chung, độ tín nhiệm không đủ, bằng các lý do cụ thể sau khi rà soát tuân thủ phát hiện cụm từ chung chung không cho người nộp đơn biết điều gì đã dẫn đến quyết định.

Một mô hình sử dụng dữ liệu dòng tiền từ tài khoản ngân hàng, do đó tổ chức cho vay viết các tuyên bố lý do mới mô tả yếu tố thực tế, chẳng hạn như thường xuyên bị quá hạn, thay vì chọn mục gần nhất trên biểu mẫu mẫu.

Một nhà phát hành thẻ tín dụng bao gồm điểm tín dụng và các yếu tố chính của nó trong thông báo vì một báo cáo người tiêu dùng đã được sử dụng, cùng với các lý do theo Quy định B.

Tương lai của các quyết định tín dụng AI và thông báo hành động bất lợi

Các tổ chức cho vay có khả năng tiếp tục mở rộng dữ liệu và mô hình được sử dụng trong thẩm định, bao gồm cả dữ liệu dòng tiền, điều này sẽ tiếp tục gây áp lực lên các phương pháp giải thích để mô tả rõ ràng các yếu tố chưa quen thuộc. Nghiên cứu về các giải thích phản thực, cho người nộp đơn biết điều gì cần phải thay đổi, có thể ảnh hưởng đến cách các lý do được trình bày, mặc dù việc chuyển đổi chúng thành các thông báo tuân thủ đặt ra những câu hỏi chính xác của riêng nó. Trọng tâm thực thi có thể thay đổi theo sự thay đổi trong ban lãnh đạo cơ quan, nhưng nghĩa vụ cốt lõi trong ECOA và Quy định B không phụ thuộc vào bất kỳ tài liệu hướng dẫn cụ thể nào, do đó thực hành bền vững là có khả năng giải thích chính xác từng quyết định cá nhân.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra về Các quyết định tín dụng AI và thông báo hành động bất lợi

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Các quyết định tín dụng AI và thông báo hành động bất lợi là gì?

Khi một tổ chức cho vay tại Mỹ từ chối tín dụng hoặc thực hiện các hành động bất lợi khác, Đạo luật Cơ hội Tín dụng Bình đẳng và Quy định B yêu cầu họ phải cung cấp cho người nộp đơn các lý do chính cụ thể, và điều này áp dụng ngay cả khi quyết định đến từ một mô hình học máy phức tạp. Điều này quan trọng vì thông báo là cách mọi người tìm hiểu điều gì đã gây bất lợi cho đơn xin của họ, phát hiện các lỗi và thách thức sự đối xử bất công, do đó các tổ chức cho vay phải có khả năng giải thích những gì mô hình của họ thực sự đã làm.

Theo bình luận của Quy định B, tại sao việc nói với người nộp đơn bị từ chối rằng họ không đáp ứng các tiêu chuẩn nội bộ là không đủ?

Quy định B yêu cầu các lý do cụ thể gắn liền với các yếu tố thực tế được xem xét. Các tuyên bố mơ hồ như tiêu chuẩn nội bộ hoặc điểm đủ điều kiện không cho người nộp đơn biết điều gì đã xảy ra sai.

Thông tư 2022-03 của CFPB nói gì về các mô hình tín dụng phức tạp?

Thông tư nêu rõ rằng độ phức tạp hoặc tính mờ ám của một thuật toán không phải là biện hộ cho việc không cung cấp các lý do cụ thể và chính xác.

Mô hình của một tổ chức cho vay dựa trên dữ liệu dòng tiền từ tài khoản ngân hàng, và lý do gần nhất trên biểu mẫu mẫu chỉ liên quan lỏng lẻo. Thông tư 2023-03 chỉ ra điều gì?

Thông tư 2023-03 nói rằng các chủ nợ không thể đơn giản chọn các lý do danh sách kiểm tra gần nhất nếu chúng không phản ánh chính xác các lý do thực tế.

Bình luận của Quy định B nói gì về việc công bố nhiều lý do?

Bình luận chỉ ra rằng nhiều hơn bốn lý do có khả năng không giúp ích gì cho người nộp đơn, đó là lý do tại sao các thông báo thường liệt kê tối đa bốn lý do.

Các thẻ điểm truyền thống thường tạo ra các lý do hành động bất lợi như thế nào?

Phương pháp điểm dưới mức tối đa xác định các thuộc tính mà người nộp đơn mất nhiều điểm nhất so với giá trị tốt nhất có thể.