금융 속의 AI

재무 결정은 법적·운영 요구사항이 다르며, 예측은 허용되거나 공정한 결정과 동일하지 않습니다. 배포 전에 필요한 제품, 소비자 영향, 증거를 정의하세요.

주요 시사점

• 결정 맥락과 오류 비용을 정의하세요.
• 입력, 버전, 임계값, 그리고 인간의 행동을 기록하세요.
• 설명은 실제 의사결정 과정을 반영하세요.

결과와 의사결정자부터 시작하세요. 조사를 위해 거래를 표시하는 모델은 신용 신청을 거부하는 모델과 다릅니다. 의사결정 시점의 데이터, 대상 라벨, 그리고 거짓 양성 및 거짓 음성 결과의 결과를 기록하세요. 과거 결정은 과거 선택을 인코딩할 수 있어 적절한 대상이 아닐 수 있습니다. 데이터, 특징, 모델 버전, 임계값, 인간 조치에 대한 감사 추적을 유지하세요. 드리프트, 누락 값, 비정상적인 계정 행동 테스트. 합법적인 고객을 차단하는 사기 탐지기는 정확도 점수에 나타나지 않는 비용을 생성할 수 있습니다. 공개 후 검토 대기열과 불만 패턴을 모니터링하세요. 신용 결정의 경우, CFPB는 복잡한 알고리즘이 특정 부정적 행동 사유를 제공할 의무를 없애지 않는다고 명시합니다. 설명은 사후에 만들어진 일반적인 기능 목록이 아니라 의사결정 과정에서 사용된 실제 요인을 식별해야 합니다. 관할구역과 제품에 대한 최신 법률 자문을 받으세요. 계정 정보를 보호하고 자동화된 행동을 제한합니다. 이전, 계정 변경 또는 기타 영향이 큰 결과에 대해 확인을 요구하고, 실행 후 결과 상태를 검증합니다.

1. 어떤 모델이 애플리케이션에 위험 점수를 0.72로 부여한다고 상상해 보세요.
2. 정책은 기준을 설정하고, 검토자는 문서를 확인하며, 부정적인 결정의 구체적인 이유를 설명하는 통지가 있습니다.
3. 점수를 결정 자체로 간주하기보다는 모델, 정책, 검토, 통지를 각각 평가하세요.

이 고안된 워크플로우는 예측과 규제된 행동을 분리합니다.