एनआईएसटी एआई जोखिम प्रबंधन ढांचा
एनआईएसटी एआई रिस्क मैनेजमेंट फ्रेमवर्क (एआई आरएमएफ) पूरे जीवनचक्र में इसके जोखिमों की पहचान और प्रबंधन करके भरोसेमंद एआई के निर्माण के लिए एक स्वैच्छिक अमेरिकी सरकार की प्लेबुक है।
सिंहावलोकन
एनआईएसटी एआई रिस्क मैनेजमेंट फ्रेमवर्क (एआई आरएमएफ) पूरे जीवनचक्र में इसके जोखिमों की पहचान और प्रबंधन करके भरोसेमंद एआई के निर्माण के लिए एक स्वैच्छिक अमेरिकी सरकार की प्लेबुक है। यह मायने रखता है क्योंकि यह संगठनों को बाध्यकारी कानून के बिना जिम्मेदार एआई को संचालित करने के लिए एक व्यावहारिक, लचीली संरचना देता है।
एनआईएसटी एआई जोखिम प्रबंधन ढांचा क्षमता, शक्ति और सार्वजनिक पसंद के चौराहे पर बैठता है - जहां सुरक्षा, शासन और वैधता तय करती है कि उन्नत एआई मदद करता है या बड़े पैमाने पर नुकसान पहुंचाता है।
गहरा गोता
जनवरी 2023 में यूएस नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी द्वारा जारी, एआई आरएमएफ 1.0 स्वैच्छिक और सेक्टर-अज्ञेयवादी है। यह चार मुख्य कार्यों के आसपास आयोजित किया जाता है: शासन (एआई जोखिम के लिए एक संस्कृति और नीतियों का निर्माण), मानचित्र (संदर्भ को समझें और जोखिमों की पहचान करें), माप (मेट्रिक्स के साथ जोखिमों का विश्लेषण और ट्रैक करें), और प्रबंधित करें (उन जोखिमों को प्राथमिकता दें और उन पर कार्य करें)। ढांचा भरोसेमंद एआई की विशेषताओं को परिभाषित करता है: वैध और भरोसेमंद, सुरक्षित, सुरक्षित और लचीला, जवाबदेह और पारदर्शी, व्याख्या करने योग्य और व्याख्या करने योग्य, गोपनीयता-संवर्धित, और हानिकारक पूर्वाग्रह के साथ निष्पक्ष प्रबंधन। एनआईएसटी ने ठोस सुझाई गई कार्रवाइयों के साथ एक सहयोगी प्लेबुक भी प्रकाशित की है, और 2024 में कन्फैब्यूलेशन, डेटा लीक और हानिकारक सामग्री जैसे बड़े भाषा मॉडल के लिए अद्वितीय जोखिमों को संबोधित करते हुए एक जेनरेटिव एआई प्रोफाइल जोड़ा है।
तकनीकी अंतर्दृष्टि
एक चेकलिस्ट के विपरीत, आरएमएफ विश्वसनीयता को संतुलित किए जाने वाले व्यापार-बंदों के एक सेट के रूप में मानता है, क्योंकि एक संपत्ति (जैसे, सटीकता) में सुधार दूसरे (जैसे, गोपनीयता या निष्पक्षता) को नीचा दिखा सकता है। गवर्न फ़ंक्शन क्रॉस-कटिंग है और अन्य तीन को फ़ीड करता है। माप रेड-टीमिंग और मानव मूल्यांकन सहित मात्रात्मक मेट्रिक्स और गुणात्मक तरीकों दोनों का उपयोग करने पर जोर देता है, क्योंकि कई एआई नुकसान विशुद्ध रूप से संख्यात्मक कैप्चर का विरोध करते हैं। परिणाम, विशिष्ट उपकरण नहीं, वे हैं जो रूपरेखा निर्दिष्ट करती है।
एनआईएसटी एआई जोखिम प्रबंधन ढांचे में महारत हासिल करना
गहरी समझ बनाने के लिए, NIST AI जोखिम प्रबंधन फ्रेमवर्क को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि किसी एक फीचर के रूप में। वांछित परिणामों को परिभाषित करें, धारणाओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।
व्यवहार में, एनआईएसटी एआई जोखिम प्रबंधन फ्रेमवर्क का उपयोग करने वाली मजबूत टीमें क्षमता वृद्धि को शासन, सुरक्षा और स्पष्ट जवाबदेही संरचनाओं के साथ जोड़ती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। साथ ही, अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।
सामरिक प्रभाव
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।
सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।
स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
वास्तविक विश्व कार्यान्वयन
एक तकनीकी कंपनी मैप फ़ंक्शन को पूरा करते हुए, किसी भी कोड शिप से पहले प्रभावित समूहों और संभावित नुकसानों को सूचीबद्ध करते हुए, एक नई भर्ती एआई के संदर्भ को मैप करती है।
एक बैंक अपने सभी मॉडलों में सरकार के कार्यों को संतुष्ट करने के लिए एक एआई गवर्नेंस समिति और लिखित जोखिम नीतियां स्थापित करता है।
एक टीम मेज़र फ़ंक्शन के तहत चैटबॉट के विफलता मोड को मापने के लिए रेड-टीमिंग और बायस मेट्रिक्स का उपयोग करती है।
एक स्वास्थ्य बीमाकर्ता ग्राहक-सामना वाले एलएलएम में बातचीत और डेटा-लीक जोखिमों को संबोधित करने के लिए जेनरेटिव एआई प्रोफाइल का पालन करता है।
कार्यान्वयन पैटर्न
व्यवहार में एनआईएसटी एआई जोखिम प्रबंधन ढांचा
एक तकनीकी कंपनी मैप फ़ंक्शन को पूरा करते हुए, किसी भी कोड शिप से पहले प्रभावित समूहों और संभावित नुकसानों को सूचीबद्ध करते हुए, एक नई भर्ती एआई के संदर्भ को मैप करती है।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में एनआईएसटी एआई जोखिम प्रबंधन ढांचा
एक बैंक अपने सभी मॉडलों में सरकार के कार्यों को संतुष्ट करने के लिए एक एआई गवर्नेंस समिति और लिखित जोखिम नीतियां स्थापित करता है।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में एनआईएसटी एआई जोखिम प्रबंधन ढांचा
एक टीम मेज़र फ़ंक्शन के तहत चैटबॉट के विफलता मोड को मापने के लिए रेड-टीमिंग और बायस मेट्रिक्स का उपयोग करती है।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में एनआईएसटी एआई जोखिम प्रबंधन ढांचा
एक स्वास्थ्य बीमाकर्ता ग्राहक-सामना वाले एलएलएम में बातचीत और डेटा-लीक जोखिमों को संबोधित करने के लिए जेनरेटिव एआई प्रोफाइल का पालन करता है।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
जोखिम और रेलिंग
अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।
उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।
गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।
कार्यान्वयन रोडमैप
उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
अन्वेषण करते रहें
Check your understanding
Test yourself: take the NIST AI Risk Management Framework quiz