Zarządzanie ryzykiem modeli (SR 11-7) i sztuczna inteligencja

SR 11-7 został wydany w kwietniu 2011 r. przez Rezerwę Federalną wspólnie z OCC, a FDIC przyjął go w 2017 r. Definiuje on szeroko model: metodę, system lub podejście ilościowe, które wykorzystuje teorie statystyczne, ekonomiczne, finansowe lub matematyczne w celu przekształcenia danych wejściowych w szacunki ilościowe. Model składa się z części wejściowej, części przetwarzającej i części raportowej. Ryzyko modelu ma dwa źródła: podstawowe błędy w modelu oraz nieprawidłowe lub niezgodne z przeznaczeniem wykorzystanie solidnego modelu. Wytyczne opierają się na trzech filarach. Pierwszym z nich jest prawidłowy rozwój, wdrożenie i użytkowanie. Drugi to walidacja, która składa się z trzech podstawowych elementów: oceny poprawności koncepcji, bieżącego monitorowania (w tym weryfikacji procesu i analizy porównawczej) oraz analizy wyników, takiej jak weryfikacja historyczna. Trzeci to zarządzanie: nadzór zarządu i wyższej kadry kierowniczej, pisemne zasady, kompletny spis modelu i dokumentacja na tyle szczegółowa, że ​​osoba niezaznajomiona z modelem może zrozumieć, jak on działa. W całym poradniku wzywa się do „skutecznego kwestionowania”, co oznacza krytyczną ocenę dokonywaną przez osoby obiektywne, poinformowane, kompetentne i wystarczająco wpływowe, aby wymusić zmiany. Modele dostawców nie podlegają żadnemu zwolnieniu. Od banków oczekuje się uzyskania odpowiedniej dokumentacji od dostawców. W przypadku nieujawniania informacji zastrzeżonych banki powinny w większym stopniu polegać na analizie wrażliwości, benchmarkingu i testowaniu wyników. Powszechnym błędnym przekonaniem jest to, że SR 11-7 nie obejmuje sztucznej inteligencji, ponieważ jest starsze niż współczesne uczenie maszynowe. Jej definicja jest neutralna technologicznie, a organy nadzoru traktują sztuczną inteligencję jako mieszczącą się w jej zakresie. Banki zazwyczaj albo klasyfikują generatywne narzędzia sztucznej inteligencji jako modele, albo zarządzają nimi w ramach szerszych ram ryzyka związanych ze sztuczną inteligencją, które wykorzystują te same zasady walidacji. Powiązane odniesienia obejmują broszurę OCC Comptroller's Handbook 2021 dotyczącą zarządzania ryzykiem modeli oraz NIST AI Risk Management Framework, wydaną w styczniu 2023 r. W przypadku decyzji kredytowych wymogi dotyczące zawiadomienia o działaniach niepożądanych zgodnie z ustawą o równych szansach kredytowych nadal mają zastosowanie, gdy model jest złożony.