คู่มือสังคม

การจัดการความเสี่ยงแบบจำลอง (SR 11-7) และ AI

SR 11-7 เป็นแนวทางการกำกับดูแลของธนาคารกลางสหรัฐประจำปี 2554 เกี่ยวกับการบริหารความเสี่ยงแบบจำลอง ซึ่งออกร่วมกับ OCC Bulletin 2554-55

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการบริหารความเสี่ยงแบบจำลอง (SR 11-7) และ AI
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

โดยคาดหวังให้ธนาคารต่างๆ พัฒนา ตรวจสอบ กำกับดูแล และติดตามแบบจำลองที่พวกเขาพึ่งพา ปัจจุบันธนาคารต่างๆ นำไปใช้กับการเรียนรู้ของเครื่องและโมเดลภาษาขนาดใหญ่ ซึ่งทำให้การตรวจสอบแบบเดิมๆ ยุ่งยาก เนื่องจากโมเดลเหล่านี้มักจะไม่ชัดเจน ซึ่งจัดหาโดยผู้ขายและไม่ได้กำหนดไว้ คำแนะนำมีความสำคัญเนื่องจากธนาคารที่ใช้ AI ในด้านเครดิต การฉ้อโกง การปฏิบัติตามกฎระเบียบ หรือการบริการลูกค้าต้องแสดงให้หัวหน้างานเข้าใจและควบคุมว่าโมเดลเหล่านั้นจะล้มเหลวได้อย่างไร

เจาะลึก

SR 11-7 ออกในเดือนเมษายน 2011 โดย Federal Reserve ร่วมกับ OCC และ FDIC นำมาใช้ในปี 2017 โดยให้คำจำกัดความของแบบจำลองอย่างกว้างๆ ได้แก่ วิธีการ ระบบ หรือแนวทางเชิงปริมาณที่ใช้ทฤษฎีทางสถิติ เศรษฐกิจ การเงิน หรือคณิตศาสตร์ เพื่อเปลี่ยนข้อมูลที่ป้อนเข้าเป็นการประมาณเชิงปริมาณ โมเดลมีส่วนอินพุต ส่วนประมวลผล และส่วนการรายงาน ความเสี่ยงของโมเดลมาจากสองแหล่งที่มา: ข้อผิดพลาดพื้นฐานในโมเดล และการใช้โมเดลเสียงอย่างไม่ถูกต้องหรืออยู่นอกวัตถุประสงค์ที่ตั้งใจไว้ การนำทางอยู่บนเสาหลักสามประการ ประการแรกคือการพัฒนา การนำไปใช้ และการใช้งานที่ดี ประการที่สองคือการตรวจสอบความถูกต้อง ซึ่งมีองค์ประกอบหลักสามประการ: การประเมินความถูกต้องของแนวความคิด การตรวจสอบอย่างต่อเนื่อง (รวมถึงการตรวจสอบกระบวนการและการเปรียบเทียบมาตรฐาน) และการวิเคราะห์ผลลัพธ์ เช่น การทดสอบย้อนกลับ ประการที่สามคือการกำกับดูแล: การกำกับดูแลของคณะกรรมการและผู้บริหารระดับสูง นโยบายที่เป็นลายลักษณ์อักษร รายการแบบจำลองที่สมบูรณ์ และเอกสารประกอบที่มีรายละเอียดเพียงพอที่บุคคลที่ไม่คุ้นเคยกับแบบจำลองสามารถเข้าใจวิธีการทำงานได้ ตลอดแนวปฏิบัติ แนวทางดังกล่าวเรียกร้องให้มี "ความท้าทายที่มีประสิทธิผล" ซึ่งหมายถึงการทบทวนอย่างมีวิจารณญาณโดยบุคคลที่เป็นกลาง มีความรู้ มีความสามารถ และมีอิทธิพลเพียงพอที่จะบังคับการเปลี่ยนแปลง โมเดลของผู้จำหน่ายไม่ได้รับการยกเว้น ธนาคารคาดหวังที่จะได้รับเอกสารที่เหมาะสมจากผู้ขาย เมื่อมีการปกปิดรายละเอียดที่เป็นกรรมสิทธิ์ ธนาคารควรพึ่งพาการวิเคราะห์ความอ่อนไหว การเปรียบเทียบ และการทดสอบผลลัพธ์ให้มากขึ้น ความเข้าใจผิดที่พบบ่อยคือ SR 11-7 ไม่สามารถเข้าถึง AI เนื่องจากมีมาก่อนการเรียนรู้ของเครื่องสมัยใหม่ คำจำกัดความของมันคือความเป็นกลางทางเทคโนโลยี และผู้บังคับบัญชาปฏิบัติต่อ AI เหมือนอยู่ในขอบเขต โดยปกติแล้วธนาคารจะจัดประเภทเครื่องมือ AI เชิงสร้างสรรค์เป็นแบบจำลองหรือควบคุมเครื่องมือเหล่านั้นภายใต้กรอบความเสี่ยงด้าน AI ที่กว้างขึ้นซึ่งใช้หลักการตรวจสอบเดียวกัน ข้อมูลอ้างอิงที่เกี่ยวข้อง ได้แก่ หนังสือคู่มือ Comptroller's Handbook ของ OCC เกี่ยวกับการบริหารความเสี่ยงแบบจำลองและกรอบการจัดการความเสี่ยง NIST AI ที่เผยแพร่ในเดือนมกราคม 2023 สำหรับการตัดสินใจด้านเครดิต ข้อกำหนดการแจ้งเตือนการกระทำที่ไม่พึงประสงค์ภายใต้กฎหมาย Equal Credit Opportunity Act ยังคงมีผลบังคับใช้เมื่อแบบจำลองมีความซับซ้อน

การใช้งานจริงในโลกแห่งความเป็นจริง

ธนาคารเพิ่มผู้ขาย LLM ซึ่งจะสรุปข้อร้องเรียนของลูกค้าไปยังแบบจำลองสินค้าคงคลัง กำหนดระดับความเสี่ยง และมอบให้กับทีมตรวจสอบอิสระก่อนการใช้งานจริง

ผู้ตรวจสอบจะสร้างชุดข้อร้องเรียนหลายร้อยรายการที่มีป้ายกำกับเพื่อวัดว่าสรุปของ LLM ละประเด็นที่ต้องยกระดับด้วยเหตุผลด้านกฎระเบียบบ่อยแค่ไหน พวกเขากำหนดเกณฑ์ข้อผิดพลาดที่ยอมรับได้ก่อนที่จะอนุมัติเครื่องมือ

แบบจำลองเครดิตการเรียนรู้ของเครื่องต้องผ่านการวิเคราะห์ผลลัพธ์เทียบกับค่าเริ่มต้นจริง รวมถึงการทดสอบการให้กู้ยืมที่ยุติธรรม วิธีการอธิบายจะช่วยสร้างเหตุผลการกระทำที่ไม่พึงประสงค์เฉพาะเจาะจงที่ผู้ให้กู้ต้องให้แก่ผู้สมัคร

แดชบอร์ดการตรวจสอบจะติดตามการเปลี่ยนแปลงของข้อมูลอินพุตและตัวอย่างคุณภาพเอาต์พุต LLM ทุกสัปดาห์ เมื่อผู้จัดจำหน่ายออกเวอร์ชันแบบจำลองใหม่ แดชบอร์ดจะทริกเกอร์การตรวจสอบความถูกต้องเป้าหมายอีกครั้ง

อนาคตของการบริหารความเสี่ยงแบบจำลอง (SR 11-7) และ AI

ธนาคารต่างๆ กำลังขยายแบบจำลองสินค้าคงคลังและสร้างวิธีการประเมินสำหรับ generative AI หัวหน้างานได้หารือเกี่ยวกับการกำกับดูแล AI ในสุนทรพจน์และการขอข้อมูล แต่การอัปเดตอย่างเป็นทางการสำหรับคำแนะนำด้านความเสี่ยงของแบบจำลองจะเกิดขึ้นหรือไม่ และสิ่งที่พวกเขาจะพูดยังคงไม่แน่นอน หลักการสำคัญใน SR 11-7 (ทราบวัตถุประสงค์ของแบบจำลอง ทดสอบอย่างอิสระ บันทึกขีดจำกัด ตรวจสอบเมื่อเวลาผ่านไป) นำไปใช้ได้ดีกับ LLM แม้ว่าวิธีการเฉพาะจะยังอยู่ระหว่างดำเนินการก็ตาม คาดหวังความสนใจสูงสุดในเรื่องความโปร่งใสของผู้ขายและการตรวจสอบอย่างต่อเนื่อง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
  • ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ

ระวัง

  • การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
  • ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
  • ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ

ขั้นตอนต่อไป

  1. แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
  2. ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
  3. ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
  4. ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบการจัดการความเสี่ยงแบบจำลอง (SR 11-7) และ AI

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

Model Risk Management (SR 11-7) และ AI คืออะไร

SR 11-7 เป็นแนวทางการกำกับดูแลของธนาคารกลางสหรัฐประจำปี 2554 เกี่ยวกับการบริหารความเสี่ยงแบบจำลอง ซึ่งออกร่วมกับ OCC Bulletin 2554-55 โดยคาดหวังให้ธนาคารต่างๆ พัฒนา ตรวจสอบ กำกับดูแล และติดตามแบบจำลองที่พวกเขาพึ่งพา ปัจจุบันธนาคารต่างๆ นำไปใช้กับการเรียนรู้ของเครื่องและโมเดลภาษาขนาดใหญ่ ซึ่งทำให้การตรวจสอบแบบเดิมๆ ยุ่งยาก เนื่องจากโมเดลเหล่านี้มักจะไม่ชัดเจน ซึ่งจัดหาโดยผู้ขายและไม่ได้กำหนดไว้ คำแนะนำมีความสำคัญเนื่องจากธนาคารที่ใช้ AI ในด้านเครดิต การฉ้อโกง การปฏิบัติตามกฎระเบียบ หรือการบริการลูกค้าต้องแสดงให้หัวหน้างานเข้าใจและควบคุมว่าโมเดลเหล่านั้นจะล้มเหลวได้อย่างไร

เอกสาร OCC ใดที่ออกควบคู่ไปกับ SR 11-7 ของธนาคารกลางสหรัฐในปี 2554

OCC ออกแนวทางเดียวกันกับ Bulletin ปี 2011-2012 ดังนั้นเอกสารทั้งสองจึงมักถูกอ้างอิงร่วมกัน

องค์ประกอบหลักสามประการของการตรวจสอบความถูกต้องภายใต้ SR 11-7 คืออะไร

การตรวจสอบครอบคลุมว่าการออกแบบนั้นดีหรือไม่ โมเดลยังคงทำงานตามที่ตั้งใจไว้หรือไม่ และผลลัพธ์ที่ได้จะเป็นอย่างไรเมื่อเปรียบเทียบกับผลลัพธ์จริง

SR 11-7 ต้องการอะไรในการตรวจสอบจึงจะนับเป็น "ความท้าทายที่มีประสิทธิผล"

ความท้าทายที่มีประสิทธิผลหมายถึงการวิเคราะห์เชิงวิพากษ์โดยบุคคลที่มีความสามารถและเป็นอิสระ ซึ่งการค้นพบนำไปสู่การเปลี่ยนแปลงอย่างแท้จริง

ธนาคารควรจัดการกับโมเดลผู้ขายที่ถูกระงับรายละเอียดที่เป็นกรรมสิทธิ์อย่างไร

โมเดลของผู้ขายยังคงได้รับการตรวจสอบความถูกต้อง เมื่อรายละเอียดภายในไม่พร้อมใช้งาน การทดสอบพฤติกรรมและผลลัพธ์จะมีน้ำหนักมากขึ้น

ตามคำแนะนำ ข้อใดต่อไปนี้เป็นส่วนหนึ่งของขอบเขตแบบจำลองของแอปพลิเคชัน LLM สำหรับการจัดการการเปลี่ยนแปลง

พรอมต์ ข้อมูลการดึงข้อมูล พารามิเตอร์ เครื่องมือ และราวกั้นล้วนกำหนดรูปแบบเอาต์พุต ดังนั้นการเปลี่ยนแปลงจะนับเป็นการเปลี่ยนแปลงโมเดล

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →