असामान्य AI दुष्ट AI एजेंटों के लिए क्लाउड सुरक्षा का पूर्वावलोकन करता है

क्या हुआ?

सिक्योरिटीब्रीफ ऑस्ट्रेलिया की रिपोर्ट है कि एब्नॉर्मल एआई ने चयनित ग्राहकों के लिए एक निजी-पूर्वावलोकन उत्पाद एआई क्लाउड सिक्योरिटी लॉन्च किया है। सेवा को मानव उपयोगकर्ताओं, सेवा खातों, एपीआई कुंजी, वर्कलोड और एआई एजेंटों में सामान्य व्यवहार को मॉडल करने के लिए डिज़ाइन किया गया है, फिर असामान्य गतिविधि की पहचान की जाती है और वर्कलोड को अलग करने या क्रेडेंशियल्स को रद्द करने जैसी पूर्वनिर्धारित प्रतिक्रियाओं का समर्थन किया जाता है।

सिक्योरिटीब्रीफ ऑस्ट्रेलिया की रिपोर्ट है कि एब्नॉर्मल एआई ने एआई क्लाउड सिक्योरिटी लॉन्च की है और इसे चयनित ग्राहकों के लिए निजी पूर्वावलोकन में रखा है। कंपनी अपने व्यवहार-आधारित सुरक्षा दृष्टिकोण को ईमेल, पहचान और अंदरूनी खतरे की निगरानी से परे क्लाउड इंफ्रास्ट्रक्चर में विस्तारित कर रही है, जिसमें एआई-एजेंट गतिविधि एक केंद्रीय फोकस है।

सिक्योरिटीब्रीफ ऑस्ट्रेलिया के अनुसार, उत्पाद मानव उपयोगकर्ताओं, सेवा खातों, एपीआई कुंजी और एआई एजेंटों सहित ग्राहक परिवेश में पहचान के लिए व्यवहार मॉडल बनाता है। इसका उद्देश्य सामान्य गतिविधि के लिए आधार रेखाएं स्थापित करना और जांच के लिए विचलन चिह्नित करना है।

रिपोर्ट में कहा गया है कि ग्राहक पूर्वनिर्धारित प्रतिक्रिया क्रियाओं को कॉन्फ़िगर कर सकते हैं, जिसमें कार्यभार को अलग करना, क्रेडेंशियल को रद्द करना और प्रभावित संसाधनों को शामिल करना शामिल है। ग्राहक घटना की गंभीरता के आधार पर स्वचालित कार्रवाई या मानवीय समीक्षा चुन सकते हैं। रिपोर्ट मूल्य निर्धारण, सामान्य-उपलब्धता समय, क्लाउड-प्रदाता कवरेज या स्वतंत्र परीक्षण परिणाम प्रदान नहीं करती है।

सिक्योरिटीब्रीफ ऑस्ट्रेलिया की रिपोर्ट है कि OpenAI डेब्रेक मॉडल जांच के दौरान लॉग और व्यवहार संबंधी संकेतों का विश्लेषण करते हैं, जिससे उत्तरदाताओं को किसी घटना को समझने, उसके दायरे का आकलन करने और प्रतिक्रिया उपायों को चुनने में मदद मिलती है। आउटलेट इस खोजी उपयोग को उत्पाद की पहचान तंत्र के रूप में प्रस्तुत व्यवहार प्रणाली से अलग करता है।

स्रोत विवरण: securitybrief.com.au ↗

यह क्यों मायने रखता है?

एआई एजेंट क्लाउड सिस्टम पर ऐसी गति से कार्य कर सकते हैं जो पारंपरिक सुरक्षा समीक्षा प्रक्रियाओं से अधिक हो सकती है। सिक्योरिटीब्रीफ ऑस्ट्रेलिया की रिपोर्ट है कि असामान्य एआई इन गैर-मानवीय पहचानों के लिए व्यवहार-आधारित पहचान का विस्तार कर रहा है, संभावित रूप से सुरक्षा टीमों को ऐसी गतिविधि की पहचान करने का एक तरीका दे रहा है जो ज्ञात खतरे के हस्ताक्षर से मेल नहीं खाती है। व्यावहारिक मूल्य पता लगाने की सटीकता, प्रतिक्रिया सुरक्षा उपायों, एकीकरण कवरेज पर निर्भर करेगा और क्या ग्राहक वैध स्वचालन से दुर्भावनापूर्ण व्यवहार को विश्वसनीय रूप से अलग कर सकते हैं।

सिक्योरिटीब्रीफ ऑस्ट्रेलिया ने लॉन्च को बढ़ती संभावना की प्रतिक्रिया के रूप में तैयार किया है कि स्वायत्त सॉफ्टवेयर एजेंट कमजोरियों को एक साथ जोड़ सकते हैं, क्लाउड संसाधनों तक पहुंच सकते हैं और मानव विश्लेषकों की तुलना में तेजी से अलर्ट की जांच कर सकते हैं। यह एक परिचालन समस्या के साथ-साथ एक तकनीकी समस्या भी पैदा करता है: संगठनों को ऐसे नियंत्रणों की आवश्यकता हो सकती है जो पहचान व्यवहार की व्याख्या कर सकें और संकीर्ण रूप से परिभाषित रोकथाम कदमों को तुरंत निष्पादित कर सकें।

व्यवहार-आधारित निगरानी उपयोगी हो सकती है जहां एक एजेंट की गतिविधियां नवीन होती हैं और इसलिए समझौते के स्थापित संकेतकों की कमी होती है। लेकिन रिपोर्ट कोई स्वतंत्र सबूत नहीं देती है कि असामान्य एआई की प्रणाली उत्पादन वातावरण में दुष्ट एजेंटों की सटीक पहचान कर सकती है। यदि नीतियां या व्यवहार संबंधी आधार रेखाएं गलत हैं, तो स्वचालित क्रेडेंशियल निरस्तीकरण या कार्यभार अलगाव भी वैध वर्कफ़्लो को बाधित कर सकता है।

रिपोर्ट में कहा गया है कि असामान्य एआई 4,500 से अधिक संगठनों की रक्षा करने का दावा करता है, जिसमें फॉर्च्यून 500 के 25% से अधिक शामिल हैं। ये आंकड़े सिक्योरिटीब्रीफ ऑस्ट्रेलिया द्वारा रिपोर्ट किए गए कंपनी के दावे हैं और आपूर्ति किए गए स्रोत में स्वतंत्र रूप से पुष्टि नहीं की गई है।

आगे क्या देखना है

रिपोर्ट के अनुसार उत्पाद आम तौर पर उपलब्ध नहीं है। मुख्य अज्ञात में मूल्य निर्धारण, समर्थित क्लाउड प्लेटफ़ॉर्म, पहचान प्रदर्शन, झूठी-सकारात्मक दरें, प्रतिक्रिया सीमाएँ और कौन से ग्राहक निजी पूर्वावलोकन में शामिल हो सकते हैं शामिल हैं। सिक्योरिटीब्रीफ ऑस्ट्रेलिया यह भी रिपोर्ट करता है कि OpenAI डेब्रेक मॉडल का उपयोग लॉग और व्यवहार संबंधी संकेतों की जांच के लिए किया जाता है, लेकिन उनका कहना है कि वे डिटेक्शन इंजन नहीं हैं। उद्धृत OpenAI-Hugging Face घटना और संबंधित दावों की यहां स्वतंत्र रूप से पुष्टि नहीं की गई है।

तात्कालिक मील का पत्थर यह है कि क्या निजी पूर्वावलोकन सार्वजनिक रूप से उपलब्ध उत्पाद में विस्तारित होता है। पहुंच की स्थिति, मूल्य निर्धारण, सेवा-स्तर की प्रतिबद्धताएं और समर्थित क्लाउड वातावरण अज्ञात बने हुए हैं।

सुरक्षा टीमों को स्वतंत्र मूल्यांकन पर नजर रखनी चाहिए, जिससे पता चले कि सिस्टम वैध उच्च-मात्रा स्वचालन, समझौता किए गए सेवा खातों, शीघ्र-इंजेक्टेड एजेंटों और पहले से अनदेखे हमले पथों के खिलाफ कैसा प्रदर्शन करता है। आपूर्ति की गई रिपोर्ट में ऐसा कोई परीक्षण नहीं है।

पता लगाने और जांच के बीच विभाजन महत्वपूर्ण है। सिक्योरिटीब्रीफ ऑस्ट्रेलिया की रिपोर्ट है कि OpenAI डेब्रेक मॉडल सिग्नल उत्पन्न होने के बाद साक्ष्य का विश्लेषण करने में मदद करते हैं; यह रिपोर्ट नहीं करता है कि वे मॉडल स्वतंत्र रूप से निर्णय लेते हैं कि कौन सी गतिविधि दुर्भावनापूर्ण है।

कोई भी तैनाती जो स्वचालित अलगाव या क्रेडेंशियल निरस्तीकरण की अनुमति देती है, उसे स्पष्ट अनुमोदन नीतियों, ऑडिट लॉग, रोलबैक प्रक्रियाओं और मानव वृद्धि की आवश्यकता होगी। रिपोर्ट यह निर्दिष्ट नहीं करती कि वे नियंत्रण कैसे काम करते हैं।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी