คู่มือสังคม
การจัดการความเสี่ยงแบบจำลอง (SR 11-7) และ AI
SR 11-7 เป็นแนวทางการกำกับดูแลของธนาคารกลางสหรัฐประจำปี 2554 เกี่ยวกับการบริหารความเสี่ยงแบบจำลอง ซึ่งออกร่วมกับ OCC Bulletin 2554-55
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บนหน้านี้อ่าน 4 นาที
ภาพรวม
โดยคาดหวังให้ธนาคารต่างๆ พัฒนา ตรวจสอบ กำกับดูแล และติดตามแบบจำลองที่พวกเขาพึ่งพา ปัจจุบันธนาคารต่างๆ นำไปใช้กับการเรียนรู้ของเครื่องและโมเดลภาษาขนาดใหญ่ ซึ่งทำให้การตรวจสอบแบบเดิมๆ ยุ่งยาก เนื่องจากโมเดลเหล่านี้มักจะไม่ชัดเจน ซึ่งจัดหาโดยผู้ขายและไม่ได้กำหนดไว้ คำแนะนำมีความสำคัญเนื่องจากธนาคารที่ใช้ AI ในด้านเครดิต การฉ้อโกง การปฏิบัติตามกฎระเบียบ หรือการบริการลูกค้าต้องแสดงให้หัวหน้างานเข้าใจและควบคุมว่าโมเดลเหล่านั้นจะล้มเหลวได้อย่างไร
เจาะลึก
SR 11-7 ออกในเดือนเมษายน 2011 โดย Federal Reserve ร่วมกับ OCC และ FDIC นำมาใช้ในปี 2017 โดยให้คำจำกัดความของแบบจำลองอย่างกว้างๆ ได้แก่ วิธีการ ระบบ หรือแนวทางเชิงปริมาณที่ใช้ทฤษฎีทางสถิติ เศรษฐกิจ การเงิน หรือคณิตศาสตร์ เพื่อเปลี่ยนข้อมูลที่ป้อนเข้าเป็นการประมาณเชิงปริมาณ โมเดลมีส่วนอินพุต ส่วนประมวลผล และส่วนการรายงาน ความเสี่ยงของโมเดลมาจากสองแหล่งที่มา: ข้อผิดพลาดพื้นฐานในโมเดล และการใช้โมเดลเสียงอย่างไม่ถูกต้องหรืออยู่นอกวัตถุประสงค์ที่ตั้งใจไว้ การนำทางอยู่บนเสาหลักสามประการ ประการแรกคือการพัฒนา การนำไปใช้ และการใช้งานที่ดี ประการที่สองคือการตรวจสอบความถูกต้อง ซึ่งมีองค์ประกอบหลักสามประการ: การประเมินความถูกต้องของแนวความคิด การตรวจสอบอย่างต่อเนื่อง (รวมถึงการตรวจสอบกระบวนการและการเปรียบเทียบมาตรฐาน) และการวิเคราะห์ผลลัพธ์ เช่น การทดสอบย้อนกลับ ประการที่สามคือการกำกับดูแล: การกำกับดูแลของคณะกรรมการและผู้บริหารระดับสูง นโยบายที่เป็นลายลักษณ์อักษร รายการแบบจำลองที่สมบูรณ์ และเอกสารประกอบที่มีรายละเอียดเพียงพอที่บุคคลที่ไม่คุ้นเคยกับแบบจำลองสามารถเข้าใจวิธีการทำงานได้ ตลอดแนวปฏิบัติ แนวทางดังกล่าวเรียกร้องให้มี "ความท้าทายที่มีประสิทธิผล" ซึ่งหมายถึงการทบทวนอย่างมีวิจารณญาณโดยบุคคลที่เป็นกลาง มีความรู้ มีความสามารถ และมีอิทธิพลเพียงพอที่จะบังคับการเปลี่ยนแปลง โมเดลของผู้จำหน่ายไม่ได้รับการยกเว้น ธนาคารคาดหวังที่จะได้รับเอกสารที่เหมาะสมจากผู้ขาย เมื่อมีการปกปิดรายละเอียดที่เป็นกรรมสิทธิ์ ธนาคารควรพึ่งพาการวิเคราะห์ความอ่อนไหว การเปรียบเทียบ และการทดสอบผลลัพธ์ให้มากขึ้น ความเข้าใจผิดที่พบบ่อยคือ SR 11-7 ไม่สามารถเข้าถึง AI เนื่องจากมีมาก่อนการเรียนรู้ของเครื่องสมัยใหม่ คำจำกัดความของมันคือความเป็นกลางทางเทคโนโลยี และผู้บังคับบัญชาปฏิบัติต่อ AI เหมือนอยู่ในขอบเขต โดยปกติแล้วธนาคารจะจัดประเภทเครื่องมือ AI เชิงสร้างสรรค์เป็นแบบจำลองหรือควบคุมเครื่องมือเหล่านั้นภายใต้กรอบความเสี่ยงด้าน AI ที่กว้างขึ้นซึ่งใช้หลักการตรวจสอบเดียวกัน ข้อมูลอ้างอิงที่เกี่ยวข้อง ได้แก่ หนังสือคู่มือ Comptroller's Handbook ของ OCC เกี่ยวกับการบริหารความเสี่ยงแบบจำลองและกรอบการจัดการความเสี่ยง NIST AI ที่เผยแพร่ในเดือนมกราคม 2023 สำหรับการตัดสินใจด้านเครดิต ข้อกำหนดการแจ้งเตือนการกระทำที่ไม่พึงประสงค์ภายใต้กฎหมาย Equal Credit Opportunity Act ยังคงมีผลบังคับใช้เมื่อแบบจำลองมีความซับซ้อน
การใช้งานจริงในโลกแห่งความเป็นจริง
ธนาคารเพิ่มผู้ขาย LLM ซึ่งจะสรุปข้อร้องเรียนของลูกค้าไปยังแบบจำลองสินค้าคงคลัง กำหนดระดับความเสี่ยง และมอบให้กับทีมตรวจสอบอิสระก่อนการใช้งานจริง
ผู้ตรวจสอบจะสร้างชุดข้อร้องเรียนหลายร้อยรายการที่มีป้ายกำกับเพื่อวัดว่าสรุปของ LLM ละประเด็นที่ต้องยกระดับด้วยเหตุผลด้านกฎระเบียบบ่อยแค่ไหน พวกเขากำหนดเกณฑ์ข้อผิดพลาดที่ยอมรับได้ก่อนที่จะอนุมัติเครื่องมือ
แบบจำลองเครดิตการเรียนรู้ของเครื่องต้องผ่านการวิเคราะห์ผลลัพธ์เทียบกับค่าเริ่มต้นจริง รวมถึงการทดสอบการให้กู้ยืมที่ยุติธรรม วิธีการอธิบายจะช่วยสร้างเหตุผลการกระทำที่ไม่พึงประสงค์เฉพาะเจาะจงที่ผู้ให้กู้ต้องให้แก่ผู้สมัคร
แดชบอร์ดการตรวจสอบจะติดตามการเปลี่ยนแปลงของข้อมูลอินพุตและตัวอย่างคุณภาพเอาต์พุต LLM ทุกสัปดาห์ เมื่อผู้จัดจำหน่ายออกเวอร์ชันแบบจำลองใหม่ แดชบอร์ดจะทริกเกอร์การตรวจสอบความถูกต้องเป้าหมายอีกครั้ง
อนาคตของการบริหารความเสี่ยงแบบจำลอง (SR 11-7) และ AI
ธนาคารต่างๆ กำลังขยายแบบจำลองสินค้าคงคลังและสร้างวิธีการประเมินสำหรับ generative AI หัวหน้างานได้หารือเกี่ยวกับการกำกับดูแล AI ในสุนทรพจน์และการขอข้อมูล แต่การอัปเดตอย่างเป็นทางการสำหรับคำแนะนำด้านความเสี่ยงของแบบจำลองจะเกิดขึ้นหรือไม่ และสิ่งที่พวกเขาจะพูดยังคงไม่แน่นอน หลักการสำคัญใน SR 11-7 (ทราบวัตถุประสงค์ของแบบจำลอง ทดสอบอย่างอิสระ บันทึกขีดจำกัด ตรวจสอบเมื่อเวลาผ่านไป) นำไปใช้ได้ดีกับ LLM แม้ว่าวิธีการเฉพาะจะยังอยู่ระหว่างดำเนินการก็ตาม คาดหวังความสนใจสูงสุดในเรื่องความโปร่งใสของผู้ขายและการตรวจสอบอย่างต่อเนื่อง
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
- ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ
ระวัง
- การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
- ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
- ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ
ขั้นตอนต่อไป
- แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
- ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
- ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
- ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ทำแบบทดสอบการจัดการความเสี่ยงแบบจำลอง (SR 11-7) และ AI
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
Model Risk Management (SR 11-7) และ AI คืออะไร
SR 11-7 เป็นแนวทางการกำกับดูแลของธนาคารกลางสหรัฐประจำปี 2554 เกี่ยวกับการบริหารความเสี่ยงแบบจำลอง ซึ่งออกร่วมกับ OCC Bulletin 2554-55 โดยคาดหวังให้ธนาคารต่างๆ พัฒนา ตรวจสอบ กำกับดูแล และติดตามแบบจำลองที่พวกเขาพึ่งพา ปัจจุบันธนาคารต่างๆ นำไปใช้กับการเรียนรู้ของเครื่องและโมเดลภาษาขนาดใหญ่ ซึ่งทำให้การตรวจสอบแบบเดิมๆ ยุ่งยาก เนื่องจากโมเดลเหล่านี้มักจะไม่ชัดเจน ซึ่งจัดหาโดยผู้ขายและไม่ได้กำหนดไว้ คำแนะนำมีความสำคัญเนื่องจากธนาคารที่ใช้ AI ในด้านเครดิต การฉ้อโกง การปฏิบัติตามกฎระเบียบ หรือการบริการลูกค้าต้องแสดงให้หัวหน้างานเข้าใจและควบคุมว่าโมเดลเหล่านั้นจะล้มเหลวได้อย่างไร
เอกสาร OCC ใดที่ออกควบคู่ไปกับ SR 11-7 ของธนาคารกลางสหรัฐในปี 2554
OCC ออกแนวทางเดียวกันกับ Bulletin ปี 2011-2012 ดังนั้นเอกสารทั้งสองจึงมักถูกอ้างอิงร่วมกัน
องค์ประกอบหลักสามประการของการตรวจสอบความถูกต้องภายใต้ SR 11-7 คืออะไร
การตรวจสอบครอบคลุมว่าการออกแบบนั้นดีหรือไม่ โมเดลยังคงทำงานตามที่ตั้งใจไว้หรือไม่ และผลลัพธ์ที่ได้จะเป็นอย่างไรเมื่อเปรียบเทียบกับผลลัพธ์จริง
SR 11-7 ต้องการอะไรในการตรวจสอบจึงจะนับเป็น "ความท้าทายที่มีประสิทธิผล"
ความท้าทายที่มีประสิทธิผลหมายถึงการวิเคราะห์เชิงวิพากษ์โดยบุคคลที่มีความสามารถและเป็นอิสระ ซึ่งการค้นพบนำไปสู่การเปลี่ยนแปลงอย่างแท้จริง
ธนาคารควรจัดการกับโมเดลผู้ขายที่ถูกระงับรายละเอียดที่เป็นกรรมสิทธิ์อย่างไร
โมเดลของผู้ขายยังคงได้รับการตรวจสอบความถูกต้อง เมื่อรายละเอียดภายในไม่พร้อมใช้งาน การทดสอบพฤติกรรมและผลลัพธ์จะมีน้ำหนักมากขึ้น
ตามคำแนะนำ ข้อใดต่อไปนี้เป็นส่วนหนึ่งของขอบเขตแบบจำลองของแอปพลิเคชัน LLM สำหรับการจัดการการเปลี่ยนแปลง
พรอมต์ ข้อมูลการดึงข้อมูล พารามิเตอร์ เครื่องมือ และราวกั้นล้วนกำหนดรูปแบบเอาต์พุต ดังนั้นการเปลี่ยนแปลงจะนับเป็นการเปลี่ยนแปลงโมเดล
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้