एनआईएसटी एआई जोखिम प्रबंधन ढांचा
एनआईएसटी एआई रिस्क मैनेजमेंट फ्रेमवर्क (एआई आरएमएफ) पूरे जीवनचक्र में इसके जोखिमों की पहचान और प्रबंधन करके भरोसेमंद एआई के निर्माण के लिए एक स्वैच्छिक अमेरिकी सरकार की प्लेबुक है।
सिंहावलोकन
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
गहरा गोता
जनवरी 2023 में यूएस नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी द्वारा जारी, एआई आरएमएफ 1.0 स्वैच्छिक और सेक्टर-अज्ञेयवादी है। यह चार मुख्य कार्यों के आसपास आयोजित किया जाता है: शासन (एआई जोखिम के लिए एक संस्कृति और नीतियों का निर्माण), मानचित्र (संदर्भ को समझें और जोखिमों की पहचान करें), माप (मेट्रिक्स के साथ जोखिमों का विश्लेषण और ट्रैक करें), और प्रबंधित करें (उन जोखिमों को प्राथमिकता दें और उन पर कार्य करें)। ढांचा भरोसेमंद एआई की विशेषताओं को परिभाषित करता है: वैध और भरोसेमंद, सुरक्षित, सुरक्षित और लचीला, जवाबदेह और पारदर्शी, व्याख्या करने योग्य और व्याख्या करने योग्य, गोपनीयता-संवर्धित, और हानिकारक पूर्वाग्रह के साथ निष्पक्ष प्रबंधन। एनआईएसटी ने ठोस सुझाई गई कार्रवाइयों के साथ एक सहयोगी प्लेबुक भी प्रकाशित की है, और 2024 में कन्फैब्यूलेशन, डेटा लीक और हानिकारक सामग्री जैसे बड़े भाषा मॉडल के लिए अद्वितीय जोखिमों को संबोधित करते हुए एक जेनरेटिव एआई प्रोफाइल जोड़ा है।
तकनीकी अंतर्दृष्टि
एक चेकलिस्ट के विपरीत, आरएमएफ विश्वसनीयता को संतुलित किए जाने वाले व्यापार-बंदों के एक सेट के रूप में मानता है, क्योंकि एक संपत्ति (जैसे, सटीकता) में सुधार दूसरे (जैसे, गोपनीयता या निष्पक्षता) को नीचा दिखा सकता है। गवर्न फ़ंक्शन क्रॉस-कटिंग है और अन्य तीन को फ़ीड करता है। माप रेड-टीमिंग और मानव मूल्यांकन सहित मात्रात्मक मेट्रिक्स और गुणात्मक तरीकों दोनों का उपयोग करने पर जोर देता है, क्योंकि कई एआई नुकसान विशुद्ध रूप से संख्यात्मक कैप्चर का विरोध करते हैं। परिणाम, विशिष्ट उपकरण नहीं, वे हैं जो रूपरेखा निर्दिष्ट करती है।
सामरिक प्रभाव
जोखिम और सुरक्षा
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।
स्पष्ट निर्णय
सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।
प्रचार के माध्यम से काटना
स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।
एनआईएसटी एआई जोखिम प्रबंधन ढांचे का भविष्य
उम्मीद करें कि आरएमएफ एक सामान्य संदर्भ आधार रेखा बन जाएगी जो ईयू एआई अधिनियम और उभरते अमेरिकी राज्य कानूनों जैसे बाध्यकारी शासनों पर आधारित होगी, जिससे बहु-क्षेत्राधिकार अनुपालन आसान हो जाएगा। एनआईएसटी विशिष्ट संदर्भों और प्रौद्योगिकियों के लिए प्रोफाइल जारी करना जारी रखता है, जिसमें जेनरेटिव एआई पर प्रमुख फोकस है। संघीय खरीद और एजेंसी मार्गदर्शन तेजी से आरएमएफ की ओर इशारा कर रहे हैं, और आईएसओ/आईईसी 42001 जैसे मानकों के लिए क्रॉसवॉक बढ़ रहे हैं, जिससे यह वैश्विक एआई शासन के लिए एक संयोजी ऊतक बन गया है, भले ही यह स्वैच्छिक बना हुआ है।
वास्तविक विश्व कार्यान्वयन
एक तकनीकी कंपनी मैप फ़ंक्शन को पूरा करते हुए, किसी भी कोड शिप से पहले प्रभावित समूहों और संभावित नुकसानों को सूचीबद्ध करते हुए, एक नई भर्ती एआई के संदर्भ को मैप करती है।
एक बैंक अपने सभी मॉडलों में सरकार के कार्यों को संतुष्ट करने के लिए एक एआई गवर्नेंस समिति और लिखित जोखिम नीतियां स्थापित करता है।
एक टीम मेज़र फ़ंक्शन के तहत चैटबॉट के विफलता मोड को मापने के लिए रेड-टीमिंग और बायस मेट्रिक्स का उपयोग करती है।
एक स्वास्थ्य बीमाकर्ता ग्राहक-सामना वाले एलएलएम में बातचीत और डेटा-लीक जोखिमों को संबोधित करने के लिए जेनरेटिव एआई प्रोफाइल का पालन करता है।
जोखिम और रेलिंग
अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।
उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।
गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।
कार्यान्वयन रोडमैप
उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।
पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।
विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।
एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
एआई उत्पाद प्रबंधन
अक्सर पूछे जाने वाले प्रश्नों
What is NIST AI Risk Management Framework?
एनआईएसटी एआई रिस्क मैनेजमेंट फ्रेमवर्क (एआई आरएमएफ) पूरे जीवनचक्र में इसके जोखिमों की पहचान और प्रबंधन करके भरोसेमंद एआई के निर्माण के लिए एक स्वैच्छिक अमेरिकी सरकार की प्लेबुक है। यह मायने रखता है क्योंकि यह संगठनों को बाध्यकारी कानून के बिना जिम्मेदार एआई को संचालित करने के लिए एक व्यावहारिक, लचीली संरचना देता है।
एनआईएसटी एआई आरएमएफ के चार मुख्य कार्य क्या हैं?
ढांचा शासन, मानचित्र, माप और प्रबंधन के आसपास बनाया गया है, शासन एक क्रॉस-कटिंग फ़ंक्शन के रूप में दूसरों को खिलाता है।
क्या एनआईएसटी एआई आरएमएफ का अनुपालन कानूनी रूप से आवश्यक है?
एआई आरएमएफ स्पष्ट रूप से स्वैच्छिक और क्षेत्र-अज्ञेयवादी है, जो लागू करने योग्य जनादेश के बजाय मार्गदर्शन प्रदान करता है।
किस कार्य को क्रॉस-कटिंग और अन्य तीन में फीडिंग के रूप में वर्णित किया गया है?
सरकार संस्कृति, नीतियों और जवाबदेही संरचनाओं की स्थापना करती है जो मानचित्र, माप और प्रबंधन को रेखांकित करती हैं।
आरएमएफ विश्वसनीयता को ट्रेड-ऑफ़ के एक सेट के रूप में क्यों मानता है?
एक विशेषता में लाभ, जैसे सटीकता, दूसरे की कीमत पर आ सकता है, जैसे गोपनीयता या निष्पक्षता, इसलिए उन्हें संतुलित किया जाना चाहिए।
बड़े भाषा मॉडलों को संबोधित करने के लिए एनआईएसटी ने 2024 में ढांचे में क्या जोड़ा?
2024 जेनेरेटिव एआई प्रोफाइल एलएलएम के लिए अद्वितीय जोखिमों को संबोधित करता है, जैसे कन्फैब्यूलेशन, डेटा लीक और हानिकारक सामग्री।