तकनीकी गाइड
एजेंटों के लिए कोड निष्पादन सैंडबॉक्स
एक कोड निष्पादन सैंडबॉक्स एक पृथक वातावरण है जहां एक एआई एजेंट मेजबान मशीन को नुकसान पहुंचाए बिना अपने द्वारा लिखे गए कोड को चला सकता है, उस डेटा तक पहुंच सकता है जिसे उसे नहीं देखना चाहिए, या असीमित संसाधनों का उपयोग कर सकता है।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
इस पृष्ठ पर4 मिनट पढ़ें
सिंहावलोकन
यह मायने रखता है क्योंकि एक एजेंट जो कोड निष्पादित कर सकता है वह कहीं अधिक सक्षम है (यह फाइलों की गणना, विश्लेषण कर सकता है और अपने काम का परीक्षण कर सकता है), लेकिन मॉडल-लिखित कोड डिफ़ॉल्ट रूप से अविश्वसनीय है और शीघ्र इंजेक्शन द्वारा खराब, बेकार या हेरफेर किया जा सकता है।
गहरा गोता
जब कोई एजेंट कोड उत्पन्न करता है, तो उसे चलाने के लिए कुछ करना पड़ता है। उस कोड को सीधे डेवलपर लैपटॉप या प्रोडक्शन सर्वर पर चलाना जोखिम भरा है: कोड फ़ाइलों को हटा सकता है, पर्यावरण चर से क्रेडेंशियल पढ़ सकता है, सॉफ़्टवेयर इंस्टॉल कर सकता है, क्रिप्टोकरेंसी माइन कर सकता है, या नेटवर्क कनेक्शन खोल सकता है। एक सैंडबॉक्स कोड और बाकी सभी चीज़ों के बीच एक सीमा रखता है। अलगाव की कई परतें हैं, जिनमें अलग-अलग व्यापार-बंद हैं। मानक कंटेनर (उदाहरण के लिए डॉकर) कोड को प्रक्रियाओं, फ़ाइलों और नेटवर्क का अपना दृष्टिकोण देने और सीपीयू और मेमोरी को सीमित करने के लिए लिनक्स नेमस्पेस और सीग्रुप का उपयोग करते हैं। वे जल्दी से शुरू होते हैं, लेकिन प्रत्येक कंटेनर होस्ट के कर्नेल को साझा करता है, इसलिए कर्नेल भेद्यता कोड को भागने दे सकती है। gVisor, Google का एक ओपन-सोर्स प्रोजेक्ट, एक उपयोगकर्ता-स्पेस कर्नेल जोड़ता है जो सिस्टम कॉल को इंटरसेप्ट करता है, जो अविश्वसनीय कोड को वास्तविक कर्नेल पर छू सकता है उसे छोटा कर देता है। फायरक्रैकर जैसे माइक्रोवीएम, मूल रूप से लैम्ब्डा और फार्गेट के लिए AWS द्वारा निर्मित, प्रत्येक वर्कलोड को एक सेकंड के एक अंश में बूट करते समय अपनी हल्की वर्चुअल मशीन और कर्नेल देते हैं। एजेंटों के लिए होस्ट की गई सैंडबॉक्स सेवाएँ, जैसे E2B, इस माइक्रोवीएम दृष्टिकोण पर निर्मित होती हैं। सबसे हल्के अंत में, WebAssembly रनटाइम और Pyodide जैसे टूल बिना किसी सीधे सिस्टम एक्सेस के ब्राउज़र या Wasm सैंडबॉक्स में Python चला सकते हैं। आइसोलेशन तकनीक डिज़ाइन का केवल आधा हिस्सा है। अच्छे सैंडबॉक्स नेटवर्क को भी प्रतिबंधित करते हैं (अक्सर अनुमति सूची के साथ डिफ़ॉल्ट रूप से इनकार करते हैं), स्क्रैच निर्देशिका को छोड़कर फ़ाइल सिस्टम को केवल पढ़ने के लिए माउंट करते हैं, रहस्यों को पूरी तरह से पर्यावरण से बाहर रखते हैं, और समय, मेमोरी, प्रक्रिया-गणना और डिस्क सीमाएं लागू करते हैं। वे आम तौर पर अल्पकालिक होते हैं: प्रति कार्य निर्मित और बाद में नष्ट हो जाते हैं। एक आम ग़लतफ़हमी यह है कि सैंडबॉक्स एक एजेंट को सुरक्षित बनाता है। यह कोड से होने वाले नुकसान को सीमित करता है, लेकिन यह किसी एजेंट को गलत उत्तर देने से नहीं रोकता है, और आपके द्वारा सैंडबॉक्स में डाला गया कोई भी उपकरण या क्रेडेंशियल वहां चलने वाले किसी भी कोड द्वारा पहुंच योग्य हो जाता है, जिसमें इंजेक्ट किए गए निर्देशों के जवाब में लिखा गया कोड भी शामिल है।
वास्तविक विश्व कार्यान्वयन
एक डेटा-विश्लेषण सहायक एक अपलोड की गई सीएसवी प्राप्त करता है, इसे साफ करने और रुझानों को प्लॉट करने के लिए पांडा कोड लिखता है, और उस कोड को एक डिस्पोजेबल सैंडबॉक्स में चलाता है जिसे सत्र समाप्त होने पर हटा दिया जाता है।
एक कोडिंग एजेंट एक कंटेनर के अंदर एक रिपॉजिटरी का टेस्ट सूट चलाता है जिसमें कोई आउटबाउंड नेटवर्क एक्सेस नहीं होता है, इसलिए एक दुर्भावनापूर्ण निर्भरता स्क्रिप्ट किसी बाहरी सर्वर पर स्रोत कोड या रहस्य नहीं भेज सकती है।
एक शिक्षा मंच छात्रों को एआई ट्यूटर से Python उदाहरण चलाने के लिए कहने की सुविधा देता है, प्रत्येक रन को कुछ सेकंड के सीपीयू और एक निश्चित मेमोरी सीमा पर सीमित किया जाता है ताकि एक आकस्मिक अनंत लूप सेवा को रोक न सके।
एक शोध टीम एक एजेंट को डेटासेट की केवल पढ़ने योग्य प्रतिलिपि और एक लिखने योग्य आउटपुट फ़ोल्डर के साथ एक माइक्रोवीएम देती है, ताकि एजेंट मूल डेटा को संशोधित या हटाए बिना परिणाम उत्पन्न कर सके।
एजेंटों के लिए कोड निष्पादन सैंडबॉक्स का भविष्य
कोड निष्पादन एआई सहायकों और एजेंटों के लिए एक मानक क्षमता बन रहा है, इसलिए सैंडबॉक्सिंग प्रत्येक टीम द्वारा शुरू से बनाई गई किसी चीज़ के बजाय समझदार डिफ़ॉल्ट के साथ एक कमोडिटी सेवा बनने की संभावना है। तेज़ स्टार्टअप, स्नैपशॉट और रेज़्यूमे और नेटवर्क और फ़ाइल एक्सेस के लिए बेहतर नीतियों पर काम जारी रखने की अपेक्षा करें जिन्हें प्रति कार्य समायोजित किया जा सकता है। सबसे कठिन खुली समस्या अलगाव के बजाय नीति है: यह तय करना कि एक एजेंट को किस तक पहुँचने की अनुमति दी जानी चाहिए, और उपयोगकर्ताओं को सूचित रखना, जब एजेंट लंबे समय तक स्वायत्त कार्रवाई करते हैं। अनुमतियों, लॉगिंग और मानव समीक्षा के साथ-साथ अलगाव कई परतों में से एक रहेगा।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
- स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
- गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।
का ध्यान रखें
- एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
- बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
- जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।
अगले चरण
- कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
- यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
- त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
- स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the Code Execution Sandboxes for Agents quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
एजेंटों के लिए कोड निष्पादन सैंडबॉक्स क्या है?
एक कोड निष्पादन सैंडबॉक्स एक पृथक वातावरण है जहां एक एआई एजेंट मेजबान मशीन को नुकसान पहुंचाए बिना अपने द्वारा लिखे गए कोड को चला सकता है, उस डेटा तक पहुंच सकता है जिसे उसे नहीं देखना चाहिए, या असीमित संसाधनों का उपयोग कर सकता है। यह मायने रखता है क्योंकि एक एजेंट जो कोड निष्पादित कर सकता है वह कहीं अधिक सक्षम है (यह फाइलों की गणना, विश्लेषण कर सकता है और अपने काम का परीक्षण कर सकता है), लेकिन मॉडल-लिखित कोड डिफ़ॉल्ट रूप से अविश्वसनीय है और शीघ्र इंजेक्शन द्वारा खराब, बेकार या हेरफेर किया जा सकता है।
एआई एजेंट द्वारा लिखे गए कोड को डिफ़ॉल्ट रूप से अविश्वसनीय क्यों माना जाता है?
गाइड बताता है कि मॉडल-लिखित कोड में बग हो सकते हैं, अतिरिक्त संसाधनों का उपभोग कर सकते हैं, या इंजेक्ट किए गए निर्देशों का पालन कर सकते हैं, इसलिए इसे सीधे होस्ट पर चलाने के बजाय एक सीमा के अंदर चलना चाहिए।
माइक्रोवीएम की तुलना में मानक कंटेनरों की मुख्य सुरक्षा कमजोरी क्या है?
कंटेनर नेमस्पेस और सीग्रुप का उपयोग करते हैं लेकिन सभी होस्ट कर्नेल को साझा करते हैं, इसलिए कर्नेल भेद्यता से बच निकलने की अनुमति मिल सकती है। माइक्रोवीएम प्रत्येक कार्यभार को अपना स्वयं का कर्नेल देते हैं।
अविश्वसनीय कोड से जोखिम को कम करने के लिए gVisor क्या जोड़ता है?
Google से gVisor, एक उपयोगकर्ता-स्पेस कर्नेल चलाता है जो सिस्टम कॉल को संभालता है, जिससे यह कम हो जाता है कि वास्तविक होस्ट कर्नेल के अविश्वसनीय कोड तक कितनी पहुंच हो सकती है।
फायरक्रैकर माइक्रोवीएम मूल रूप से किस प्रकार की सेवाओं को पावर देने के लिए AWS द्वारा बनाए गए थे?
फायरक्रैकर को लैम्ब्डा और फार्गेट जैसे AWS सर्वर रहित वर्कलोड के लिए बनाया गया था, जहां कई अलग-अलग वर्कलोड को जल्दी से शुरू करना होगा।
जब त्वरित इंजेक्शन संभव है तो आउटबाउंड नेटवर्क एक्सेस को प्रतिबंधित करना अक्सर सबसे महत्वपूर्ण सैंडबॉक्स नियंत्रण क्यों माना जाता है?
यदि इंजेक्ट किए गए निर्देशों के कारण एजेंट दुर्भावनापूर्ण कोड लिखता है, तो डिफॉल्ट-बाय-डिफ़ॉल्ट नेटवर्क उस कोड को डेटा को बाहर निकालने से रोकता है।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं