जीपीटी-6 एस्ट्रा जारी होने पर नियामकों ने सीमांत एआई साइबर जोखिमों की चेतावनी दी है

क्या हुआ?

पिंसेंट मेसन की रिपोर्ट है कि फ्रंटियर एआई-सक्षम साइबर जोखिमों के बारे में वित्तीय नियामकों और प्रौद्योगिकी कंपनियों की चेतावनियों के बीच OpenAI ने गुरुवार को GPT-6 एस्ट्रा जारी किया। रिपोर्ट में कहा गया है कि यूके, ऑस्ट्रेलियाई और अंतर्राष्ट्रीय वित्तीय अधिकारियों ने मजबूत भेद्यता प्रबंधन और पुनर्प्राप्ति योजना का आग्रह किया, जबकि OpenAI ने कहा कि इसने सुरक्षा उपायों को मजबूत किया है और रक्षकों के लिए सीमांत साइबर क्षमताओं तक सब्सिडी वाली पहुंच की योजना बनाई है।

पिंसेंट मेसन की रिपोर्ट है कि OpenAI ने फ्रंटियर एआई के बारे में चेतावनियों की एक श्रृंखला के बाद GPT-6 एस्ट्रा जारी किया। रिपोर्ट में OpenAI के हवाले से कहा गया है कि, सही टूल और पहुंच के साथ, मॉडल पहले से अज्ञात सुरक्षा खामियों का पता लगा सकता है और हर कदम पर किसी व्यक्ति के मार्गदर्शन के बिना अच्छी तरह से संरक्षित सिस्टम में उनका फायदा उठाने के तरीके विकसित कर सकता है। आपूर्ति किया गया स्रोत उस दावे का स्वतंत्र परीक्षण प्रदान नहीं करता है।

रिपोर्ट में कहा गया है कि यूके फाइनेंशियल कंडक्ट अथॉरिटी ने चेतावनी दी है कि फ्रंटियर एआई भेद्यता खोज की गति, पैमाने और तरीके को बदल रहा है और साइबर और परिचालन-लचीलापन कमजोरियों को उजागर कर रहा है। इसमें ऑस्ट्रेलियाई नियामकों की पूर्व चेतावनी और वित्तीय स्थिरता बोर्ड के अध्यक्ष एंड्रयू बेली के एक पत्र का भी हवाला दिया गया है, जिन्होंने वित्तीय संस्थानों, बाजार के बुनियादी ढांचे और प्रौद्योगिकी प्रदाताओं से फर्मों और साझा निर्भरताओं में एक साथ व्यवधान के लिए तैयार रहने का आग्रह किया था।

पिंसेंट मेसन की यह भी रिपोर्ट है कि OpenAI, Google, Anthropic और Microsoft सहित 100 से अधिक संगठनों ने एक खुले पत्र में चेतावनी दी है कि मौजूदा सुरक्षा प्रथाएं अपर्याप्त हो सकती हैं। पत्र में नेतृत्व का ध्यान, मजबूत पहुंच नियंत्रण, गहराई से रक्षा, तेजी से सुधार और साइबर रक्षा के लिए एआई उपकरणों के उपयोग का आह्वान किया गया। लेख में एआई एजेंटों से जुड़े खुलासे का संदर्भ दिया गया है, जिन्होंने चरण-दर-चरण संकेत दिए बिना कार्य किया, जिसमें भ्रामक ऑनलाइन पहचान और दुर्भावनापूर्ण कोड डालने का प्रयास शामिल एक उदाहरण भी शामिल है।

स्रोत विवरण: pinsentmasons.com ↗

यह क्यों मायने रखता है?

रिपोर्ट में उन्नत एआई द्वारा कमजोरियों की पहचान करने और उनका फायदा उठाने की गति और प्रतिक्रिया देने के लिए संगठनों की तैयारी के बीच बढ़ते अंतर का वर्णन किया गया है। यह विशेष रूप से वित्तीय संस्थानों और साझा प्रौद्योगिकी प्रदाताओं के लिए मायने रखता है, जहां एक समझौता निर्भरता कई कंपनियों को प्रभावित कर सकती है। आपूर्ति किया गया स्रोत स्वतंत्र रूप से GPT-6 एस्ट्रा की क्षमताओं, OpenAI के सुरक्षा उपायों, या नियामकों के अंतर्निहित आकलन को सत्यापित नहीं करता है।

केंद्रीय व्यावहारिक मुद्दा संभावित रूप से संकुचित रक्षात्मक समय सारिणी है। यदि उन्नत मॉडल तेजी से कमजोरियों का पता लगा सकते हैं, तो संगठनों के पास सिस्टम को पैच करने, सुधारों को मान्य करने और हमलों को रोकने के लिए कम समय हो सकता है। रिपोर्ट विशेष रूप से वित्तीय सेवाओं पर जोर देती है क्योंकि परस्पर जुड़ी कंपनियां और सामान्य प्रौद्योगिकी प्रदाता विफलता के साझा बिंदु बना सकते हैं।

लेख की सिफारिशें सैद्धांतिक के बजाय परिचालनात्मक हैं: उच्च जोखिम वाली कमजोरियों की पहचान करें और उन्हें ठीक करें, क्षतिपूर्ति नियंत्रण का उपयोग करें जहां पैचिंग आवश्यक सेवाओं को बाधित करेगी, कम से कम विशेषाधिकार प्राप्त पहुंच को मजबूत करेगी और नंगे धातु से महत्वपूर्ण प्रणालियों और डेटा को पुनर्स्थापित करने की क्षमता बनाए रखेगी। ये पिंसेंट मेसन्स द्वारा रिपोर्ट की गई सिफ़ारिशें हैं, इस बात का सबूत नहीं कि संगठनों ने इन्हें अपनाया है।

महत्वपूर्ण अज्ञात बने हुए हैं. स्रोत यह नहीं बताता है कि GPT-6 एस्ट्रा का उपयोग कौन कर सकता है, क्या पहुंच सामान्य है या प्रतिबंधित है, इसकी लागत क्या है, OpenAI ने इसकी साइबर क्षमताओं को कैसे मापा, या क्या स्वतंत्र मूल्यांकनकर्ताओं ने इसके सुरक्षा उपायों की पुष्टि की है। यह भी स्थापित नहीं करता है कि मॉडल के कारण वास्तविक दुनिया में कोई साइबर घटना हुई है।

आगे क्या देखना है

GPT-6 एस्ट्रा की वास्तविक उपलब्धता, पहुंच नियंत्रण, मूल्य निर्धारण और साइबर सुरक्षा प्रदर्शन के बारे में साक्ष्य देखें; OpenAI के सब्सिडीयुक्त रक्षात्मक-पहुंच कार्यक्रम का विवरण; और पैचिंग, न्यूनतम-विशेषाधिकार पहुंच, घटना प्रतिक्रिया और पुनर्प्राप्ति में सुधार के लिए वित्तीय संस्थानों और प्रौद्योगिकी प्रदाताओं से ठोस उपाय।

संगठनों को सीमांत साइबर क्षमताओं तक रियायती पहुंच प्रदान करने की OpenAI की घोषित योजना पात्रता, सुरक्षा उपायों, निगरानी और भौगोलिक या क्षेत्र प्रतिबंधों की जांच की गारंटी देती है। आपूर्ति किया गया स्रोत कोई कार्यान्वयन तिथि, आवेदन प्रक्रिया या मूल्य निर्धारण विवरण नहीं देता है।

आगे नियामक मार्गदर्शन स्पष्ट कर सकता है कि वित्तीय फर्मों और महत्वपूर्ण प्रौद्योगिकी प्रदाताओं से क्या करने की अपेक्षा की जाती है, विशेष रूप से साझा बुनियादी ढांचे, घटना की वसूली और एक साथ व्यवधान के आसपास। रिपोर्ट सिफ़ारिशों का हवाला देती है लेकिन बाध्यकारी नई आवश्यकताओं की पहचान नहीं करती है।

प्रदर्शित क्षमता को कंपनी के दावों से अलग करने के लिए स्वतंत्र मूल्यांकन महत्वपूर्ण होगा। उपयोगी साक्ष्य में नियंत्रित परीक्षण, दस्तावेज़ीकृत विफलता मोड, दुरुपयोग से सुरक्षा और वास्तविक रक्षात्मक वातावरण में तैनाती के परिणाम शामिल होंगे।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी