Gids voor de samenleving

Modelrisicobeheer (SR 11-7) en AI

SR 11-7 is de toezichtrichtlijn uit 2011 van de Federal Reserve over modelrisicobeheer, uitgegeven samen met OCC Bulletin 2011-12.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van modelrisicobeheer (SR 11-7) en AI
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Het verwacht van banken dat zij de modellen waarop zij vertrouwen, ontwikkelen, valideren, besturen en monitoren. Banken passen het nu toe op machinaal leren en grote taalmodellen, wat de traditionele validatie onder druk zet omdat deze modellen vaak ondoorzichtig zijn, door leveranciers worden aangeleverd en niet-deterministisch zijn. De richtlijnen zijn van belang omdat een bank die AI gebruikt voor krediet, fraude, compliance of klantenservice, aan de toezichthouders moet laten zien dat zij de modellen begrijpen en controleren hoe deze modellen kunnen falen.

Diepe duik

SR 11-7 werd in april 2011 uitgegeven door de Federal Reserve samen met de OCC, en de FDIC heeft het in 2017 aangenomen. Het definieert een model in brede zin: een kwantitatieve methode, systeem of aanpak die statistische, economische, financiële of wiskundige theorieën toepast om inputgegevens om te zetten in kwantitatieve schattingen. Een model bestaat uit een invoergedeelte, een verwerkingsgedeelte en een rapportagegedeelte. Modelrisico's komen voort uit twee bronnen: fundamentele fouten in het model en het verkeerd gebruiken van een goed model of buiten het beoogde doel. De begeleiding rust op drie pijlers. De eerste is een goede ontwikkeling, implementatie en gebruik. De tweede is validatie, die drie kernelementen kent: het evalueren van de conceptuele deugdelijkheid, voortdurende monitoring (inclusief procesverificatie en benchmarking) en uitkomstenanalyse zoals back-testing. De derde is governance: toezicht op het bestuur en het senior management, geschreven beleid, een volledige modelinventarisatie en documentatie die zo gedetailleerd is dat iemand die niet bekend is met het model kan begrijpen hoe het werkt. De begeleiding roept voortdurend op tot ‘effectieve uitdaging’, dat wil zeggen kritische beoordeling door mensen die objectief, geïnformeerd, competent en invloedrijk genoeg zijn om veranderingen af ​​te dwingen. Leveranciersmodellen krijgen geen vrijstelling. Van banken wordt verwacht dat zij de juiste documentatie van leveranciers verkrijgen. Waar bedrijfseigen gegevens worden achtergehouden, moeten banken meer vertrouwen op gevoeligheidsanalyses, benchmarking en het testen van uitkomsten. Een veel voorkomende misvatting is dat SR 11-7 AI niet bereikt, omdat het ouder is dan het moderne machine learning. De definitie ervan is technologieneutraal en toezichthouders beschouwen AI als binnen de reikwijdte ervan. Banken classificeren generatieve AI-tools doorgaans als modellen of besturen ze binnen een breder AI-risicokader dat dezelfde validatieprincipes gebruikt. Gerelateerde referenties zijn onder meer het 2021 Comptroller's Handbook-boekje over modelrisicobeheer van de OCC en het NIST AI Risk Management Framework, uitgebracht in januari 2023. Voor kredietbeslissingen zijn de vereisten voor kennisgeving van nadelige maatregelen onder de Equal Credit Opportunity Act nog steeds van toepassing als het model complex is.

Implementatie in de echte wereld

Een bank voegt een leverancier-LLM toe die klachten van klanten samenvat aan de modelinventaris, wijst deze een risiconiveau toe en geeft deze aan een onafhankelijk validatieteam voordat het in productie wordt genomen.

Validators bouwen een gelabelde reeks van honderden klachten op om te meten hoe vaak de samenvattingen van de LLM een probleem weglaten dat om wettelijke redenen moet worden geëscaleerd. Ze stelden een acceptabele foutdrempel in voordat ze de tool goedkeurden.

Een machinaal lerend kredietmodel doorloopt een analyse van de uitkomsten ten opzichte van daadwerkelijke wanbetalingen, plus het testen van eerlijke leningen. Uitlegmethoden helpen bij het produceren van de specifieke redenen voor negatieve actie die kredietverstrekkers aan aanvragers moeten geven.

Een monitoringdashboard houdt verschuivingen in invoergegevens bij en bemonstert wekelijks de LLM-uitvoerkwaliteit. Wanneer de leverancier een nieuwe modelversie uitbrengt, activeert het dashboard een gerichte hervalidatie.

De toekomst van modelrisicobeheer (SR 11-7) en AI

Banken breiden modelinventarisaties uit en bouwen evaluatiemethoden voor generatieve AI. Toezichthouders hebben AI-governance besproken in toespraken en verzoeken om informatie, maar of er formele updates van de modelrisicorichtlijnen zullen komen, en wat zij zouden zeggen, blijft onzeker. De kernprincipes in SR 11-7 (ken het doel van het model, test het onafhankelijk, documenteer de grenzen ervan, monitor het in de loop van de tijd) zijn goed van toepassing op LLM's, zelfs als er nog specifieke methoden worden uitgewerkt. Verwacht de meeste aandacht voor leverancierstransparantie en continue monitoring.

Het in de praktijk brengen

Waarom het ertoe doet

  • Risico en veiligheid. Catastrofale en alledaagse schade door AI hangt af van wie de risico's begrijpt en wie kan handelen.
  • Duidelijkere beslissingen. Publieke en professionele geletterdheid bepalen of een krachtig veiligheidsbeleid politiek mogelijk is.
  • Door de hype heen snijden. Duidelijke verklaringen verminderen de kans op hypes, laboratorium-PR en vaag ethisch theater.

Pas op voor

  • Existentieel risico behandelen als sciencefiction, terwijl capaciteiten zich vermenigvuldigen.
  • De veiligheid van oppervlakteproducten verwarren met uitlijning onder hoge autonomie.
  • Hierdoor blijven niet-Engelstalige en niet-deskundige doelgroepen alleen bronnen van lage kwaliteit over.

Volgende stappen

  1. Afzonderlijke risico's voor productschade, misbruik en verlies van controle/verkeerde uitlijning.
  2. Vraag welk bewijs uw kijk op tijdlijnen en ernst zou veranderen.
  3. Geef de voorkeur aan primaire bronnen en concrete evaluaties boven marketingclaims.
  4. Identificeer één actiepad: carrière, beleid, financiering of vaardigheden – niet alleen bewustwording.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Doe de Model Risk Management (SR 11-7) en AI-quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is Model Risk Management (SR 11-7) en AI?

SR 11-7 is de toezichtrichtlijn uit 2011 van de Federal Reserve over modelrisicobeheer, uitgegeven samen met OCC Bulletin 2011-12. Het verwacht van banken dat zij de modellen waarop zij vertrouwen, ontwikkelen, valideren, besturen en monitoren. Banken passen het nu toe op machinaal leren en grote taalmodellen, wat de traditionele validatie onder druk zet omdat deze modellen vaak ondoorzichtig zijn, door leveranciers worden aangeleverd en niet-deterministisch zijn. De richtlijnen zijn van belang omdat een bank die AI gebruikt voor krediet, fraude, compliance of klantenservice, aan de toezichthouders moet laten zien dat zij de modellen begrijpen en controleren hoe deze modellen kunnen falen.

Welk OCC-document werd in 2011 samen met de SR 11-7 van de Federal Reserve uitgegeven?

De OCC heeft dezelfde richtlijnen uitgegeven als Bulletin 2011-12, dus de twee documenten worden vaak samen aangehaald.

Wat zijn de drie kernelementen van validatie onder SR 11-7?

Validatie heeft betrekking op de vraag of het ontwerp deugdelijk is, of het model blijft presteren zoals bedoeld en hoe de resultaten zich verhouden tot de werkelijke resultaten.

Wat heeft SR 11-7 nodig om te kunnen worden beoordeeld als 'effectieve uitdaging'?

Effectief uitdagen betekent kritische analyse door capabele, onafhankelijke mensen wier bevindingen daadwerkelijk tot veranderingen leiden.

Hoe moet een bank omgaan met een leveranciersmodel waarvan de bedrijfseigen gegevens worden achtergehouden?

Leveranciersmodellen worden nog steeds gevalideerd. Wanneer interne details niet beschikbaar zijn, weegt het testen van gedrag en resultaten zwaarder.

Welke van deze maakt volgens de gids deel uit van de modelgrens van een LLM-applicatie voor verandermanagement?

Aanwijzingen, het ophalen van gegevens, parameters, tools en vangrails bepalen allemaal de uitvoer, dus het wijzigen ervan telt als een modelwijziging.