กรอบการจัดการความเสี่ยง NIST AI
กรอบการจัดการความเสี่ยง NIST AI (AI RMF) เป็นคู่มือกลยุทธ์ของรัฐบาลสหรัฐอเมริกาโดยสมัครใจสำหรับการสร้าง AI ที่น่าเชื่อถือโดยการระบุและจัดการความเสี่ยงตลอดวงจรชีวิต
ภาพรวม
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
เจาะลึก
AI RMF 1.0 เปิดตัวโดยสถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐอเมริกาในเดือนมกราคม 2023 โดยเป็นแบบสมัครใจและไม่เชื่อเรื่องพระเจ้าทุกภาคส่วน มันถูกจัดระเบียบตามหน้าที่หลักสี่ประการ: กำกับดูแล (สร้างวัฒนธรรมและนโยบายสำหรับความเสี่ยง AI), จัดทำแผนที่ (ทำความเข้าใจบริบทและระบุความเสี่ยง), การวัด (วิเคราะห์และติดตามความเสี่ยงด้วยตัวชี้วัด) และจัดการ (จัดลำดับความสำคัญและดำเนินการกับความเสี่ยงเหล่านั้น) กรอบการทำงานกำหนดลักษณะของ AI ที่น่าเชื่อถือ: ถูกต้องและเชื่อถือได้ ปลอดภัย ปลอดภัยและยืดหยุ่น รับผิดชอบและโปร่งใส อธิบายและตีความได้ เพิ่มความเป็นส่วนตัว และยุติธรรมโดยมีการจัดการอคติที่เป็นอันตราย NIST ยังเผยแพร่ Playbook ที่แสดงร่วมกับการดำเนินการที่แนะนำอย่างเป็นรูปธรรม และในปี 2024 ได้เพิ่มโปรไฟล์ Generative AI ที่ระบุถึงความเสี่ยงที่ไม่ซ้ำกับโมเดลภาษาขนาดใหญ่ เช่น การสับสน ข้อมูลรั่วไหล และเนื้อหาที่เป็นอันตราย
ข้อมูลเชิงลึกทางเทคนิค
ต่างจากรายการตรวจสอบ กองทุน RMF ถือว่าความน่าเชื่อถือเป็นชุดของการแลกเปลี่ยนเพื่อให้มีความสมดุล เนื่องจากการปรับปรุงทรัพย์สินแห่งหนึ่ง (เช่น ความถูกต้อง) อาจทำให้ทรัพย์สินอื่นเสื่อมถอย (เช่น ความเป็นส่วนตัวหรือความยุติธรรม) ฟังก์ชัน Govern เป็นการตัดขวางและป้อนอีกสามฟังก์ชัน Measure เน้นการใช้ทั้งการวัดเชิงปริมาณและวิธีการเชิงคุณภาพ รวมถึงการจัดทีมสีแดงและการประเมินโดยมนุษย์ เนื่องจากอันตรายจาก AI จำนวนมากต่อต้านการจับตัวเลขเพียงอย่างเดียว ผลลัพธ์ไม่ใช่เครื่องมือเฉพาะคือสิ่งที่กรอบงานระบุไว้
ผลกระทบเชิงกลยุทธ์
ความเสี่ยงและความปลอดภัย
ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
การตัดสินใจที่ชัดเจนยิ่งขึ้น
ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
ตัดผ่านกระแสโฆษณาชวนเชื่อ
คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ
อนาคตของกรอบการจัดการความเสี่ยง NIST AI
คาดหวังว่ากองทุน RMF จะกลายเป็นข้อมูลพื้นฐานอ้างอิงทั่วไปที่เชื่อมโยงกับระบอบการปกครองที่มีผลผูกพัน เช่น พระราชบัญญัติ AI ของสหภาพยุโรป และกฎหมายของรัฐของสหรัฐอเมริกาที่เกิดขึ้นใหม่ ซึ่งจะทำให้การปฏิบัติตามเขตอำนาจศาลต่างๆ ง่ายขึ้น NIST ยังคงเผยแพร่โปรไฟล์สำหรับบริบทและเทคโนโลยีที่เฉพาะเจาะจงต่อไป โดยที่ AI เชิงสร้างสรรค์เป็นจุดสนใจหลัก การจัดซื้อจัดจ้างของรัฐบาลกลางและคำแนะนำจากหน่วยงานชี้ไปที่ RMF มากขึ้น และทางม้าลายสู่มาตรฐานเช่น ISO/IEC 42001 ก็กำลังเติบโตขึ้น ทำให้สิ่งนี้กลายเป็นเนื้อเยื่อเกี่ยวพันสำหรับการกำกับดูแล AI ทั่วโลก แม้ว่าจะยังคงเป็นความสมัครใจก็ตาม
การใช้งานจริงในโลกแห่งความเป็นจริง
บริษัทเทคโนโลยีแห่งหนึ่งจัดทำแผนที่บริบทของการจ้างงาน AI ใหม่ โดยแสดงรายการกลุ่มที่ได้รับผลกระทบและอันตรายที่อาจเกิดขึ้นก่อนจัดส่งรหัสใดๆ เพื่อเติมเต็มฟังก์ชันแผนที่
ธนาคารแห่งหนึ่งได้จัดตั้งคณะกรรมการกำกับดูแลด้าน AI และนโยบายความเสี่ยงที่เป็นลายลักษณ์อักษรเพื่อตอบสนองการทำงานของหน่วยงานกำกับดูแลในทุกรูปแบบ
ทีมงานใช้การวัดทีมสีแดงและอคติเพื่อวัดปริมาณโหมดความล้มเหลวของแชทบอทภายใต้ฟังก์ชันการวัด
บริษัทประกันสุขภาพปฏิบัติตามโปรไฟล์ Generative AI เพื่อจัดการกับความเสี่ยงด้านการประชุมและการรั่วไหลของข้อมูลใน LLM ที่ต้องพบปะกับลูกค้า
ความเสี่ยงและรั้ว
การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ
แผนงานการดำเนินงาน
แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การจัดการผลิตภัณฑ์เอไอ
คำถามที่พบบ่อย
What is NIST AI Risk Management Framework?
กรอบการจัดการความเสี่ยง NIST AI (AI RMF) เป็นคู่มือกลยุทธ์ของรัฐบาลสหรัฐอเมริกาโดยสมัครใจสำหรับการสร้าง AI ที่น่าเชื่อถือโดยการระบุและจัดการความเสี่ยงตลอดวงจรชีวิต เป็นเรื่องสำคัญเนื่องจากช่วยให้องค์กรมีโครงสร้างที่ยืดหยุ่นและใช้งานได้จริงในการดำเนินการ AI ที่มีความรับผิดชอบโดยไม่มีกฎหมายผูกมัด
ฟังก์ชันหลักสี่ประการของ NIST AI RMF คืออะไร
เฟรมเวิร์กนี้สร้างขึ้นจาก Govern, Map, Measure และ Manage โดยมี Govern เป็นฟังก์ชันที่ตัดขวางเพื่อป้อนคำสั่งอื่นๆ
การปฏิบัติตาม NIST AI RMF จำเป็นตามกฎหมายหรือไม่
AI RMF เป็นกองทุนที่มีความสมัครใจอย่างชัดเจนและไม่เชื่อเรื่องพระเจ้าในภาคส่วน โดยเสนอแนวทางมากกว่าการบังคับใช้คำสั่ง
ฟังก์ชั่นใดที่อธิบายว่าเป็นการตัดขวางและป้อนเข้าไปในอีกสามฟังก์ชัน?
หน่วยงานกำกับดูแลกำหนดวัฒนธรรม นโยบาย และโครงสร้างความรับผิดชอบที่สนับสนุนแผนที่ หน่วยวัด และจัดการ
เหตุใด RMF จึงถือว่าความน่าเชื่อถือเป็นเพียงการแลกเปลี่ยน?
การได้รับในลักษณะหนึ่ง เช่น ความแม่นยำ อาจต้องแลกมาด้วยอีกลักษณะหนึ่ง เช่น ความเป็นส่วนตัวหรือความยุติธรรม ดังนั้นจึงต้องมีความสมดุล
NIST เพิ่มอะไรลงในกรอบงานในปี 2024 เพื่อจัดการกับโมเดลภาษาขนาดใหญ่
โปรไฟล์ Generative AI ปี 2024 จัดการกับความเสี่ยงเฉพาะของ LLM เช่น การรวมกัน การรั่วไหลของข้อมูล และเนื้อหาที่เป็นอันตราย