প্রযুক্তিগত গাইড

এজেন্টদের জন্য কোড এক্সিকিউশন স্যান্ডবক্স

একটি কোড এক্সিকিউশন স্যান্ডবক্স হল একটি বিচ্ছিন্ন পরিবেশ যেখানে একজন AI এজেন্ট হোস্ট মেশিনের ক্ষতি না করেই যে কোডটি লিখেছে তা চালাতে পারে, এমন ডেটাতে পৌঁছাতে পারে যা এটি দেখতে পাবে না বা সীমাহীন সম্পদ ব্যবহার করতে পারে।

এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min

এই পৃষ্ঠায়4 মিনিট পড়া
  1. ওভারভিউ
  2. গভীর ডুব
  3. বাস্তব-বিশ্ব বাস্তবায়ন
  4. এজেন্টদের জন্য কোড এক্সিকিউশন স্যান্ডবক্সের ভবিষ্যত
  5. এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
  6. অন্বেষণ চালিয়ে যান
  7. প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ওভারভিউ

এটি গুরুত্বপূর্ণ কারণ একটি এজেন্ট যে কোডটি চালাতে পারে সে অনেক বেশি সক্ষম (এটি গণনা করতে পারে, ফাইলগুলি বিশ্লেষণ করতে পারে এবং তার নিজের কাজ পরীক্ষা করতে পারে), কিন্তু মডেল-লিখিত কোডটি ডিফল্টরূপে অবিশ্বস্ত এবং প্রম্পট ইনজেকশন দ্বারা বগি, অপব্যয় বা ম্যানিপুলেট হতে পারে।

গভীর ডুব

যখন একটি এজেন্ট কোড তৈরি করে, তখন কিছু এটি চালাতে হয়। একটি বিকাশকারী ল্যাপটপ বা প্রোডাকশন সার্ভারে সরাসরি সেই কোডটি চালানো ঝুঁকিপূর্ণ: কোডটি ফাইলগুলি মুছে ফেলতে পারে, পরিবেশের ভেরিয়েবল থেকে শংসাপত্র পড়তে পারে, সফ্টওয়্যার ইনস্টল করতে, খনি ক্রিপ্টোকারেন্সি বা নেটওয়ার্ক সংযোগগুলি খুলতে পারে৷ একটি স্যান্ডবক্স কোড এবং অন্য সবকিছুর মধ্যে একটি সীমানা রাখে। বিচ্ছিন্নতার বিভিন্ন স্তর রয়েছে, বিভিন্ন ট্রেড-অফ সহ। স্ট্যান্ডার্ড কন্টেইনার (উদাহরণস্বরূপ ডকার) লিনাক্স নেমস্পেস এবং cgroups ব্যবহার করে প্রসেস, ফাইল এবং নেটওয়ার্ক সম্পর্কে কোডের নিজস্ব দৃষ্টিভঙ্গি দিতে এবং CPU এবং মেমরি সীমিত করতে। এগুলি দ্রুত শুরু হয়, কিন্তু প্রতিটি কন্টেইনার হোস্টের কার্নেল ভাগ করে, তাই একটি কার্নেলের দুর্বলতা কোডকে পালাতে দেয়। GVisor, Google-এর একটি ওপেন-সোর্স প্রকল্প, একটি ব্যবহারকারী-স্পেস কার্নেল যোগ করে যা সিস্টেম কলগুলিকে বাধা দেয়, যা অবিশ্বস্ত কোড বাস্তব কার্নেলে স্পর্শ করতে পারে তা সঙ্কুচিত করে। মাইক্রোভিএম যেমন ফায়ারক্র্যাকার, মূলত ল্যাম্বডা এবং ফারগেটের জন্য AWS দ্বারা নির্মিত, প্রতিটি কাজের চাপকে তার নিজস্ব হালকা ভার্চুয়াল মেশিন এবং কার্নেল দেয় যখন এখনও সেকেন্ডের একটি ভগ্নাংশে বুট করা হয়। এজেন্টদের জন্য হোস্ট করা স্যান্ডবক্স পরিষেবা, যেমন E2B, এই মাইক্রোভিএম পদ্ধতির উপর ভিত্তি করে তৈরি করে। সবচেয়ে হালকা শেষে, WebAssembly রানটাইম এবং Pyodide এর মতো টুলগুলি ব্রাউজারে Python বা Wasm স্যান্ডবক্সে সরাসরি সিস্টেম অ্যাক্সেস ছাড়াই চালাতে পারে। আইসোলেশন প্রযুক্তি ডিজাইনের মাত্র অর্ধেক। ভাল স্যান্ডবক্সগুলি নেটওয়ার্ককেও সীমাবদ্ধ করে (অনুমোদিত তালিকার সাথে প্রায়শই ডিফল্টভাবে অস্বীকার করে), একটি স্ক্র্যাচ ডিরেক্টরি ব্যতীত শুধুমাত্র পঠনযোগ্য ফাইল সিস্টেম মাউন্ট করে, সম্পূর্ণরূপে পরিবেশ থেকে গোপন রাখে এবং সময়, মেমরি, প্রক্রিয়া-গণনা এবং ডিস্কের সীমা প্রয়োগ করে। এগুলি সাধারণত ক্ষণস্থায়ী হয়: প্রতি টাস্ক তৈরি করা হয় এবং পরে ধ্বংস করা হয়। একটি সাধারণ ভুল ধারণা হল যে একটি স্যান্ডবক্স একটি এজেন্টকে নিরাপদ করে তোলে। এটি কোড থেকেই ক্ষতি সীমিত করে, কিন্তু এটি কোনও এজেন্টকে ভুল উত্তর তৈরি করা থেকে বিরত করে না, এবং আপনি স্যান্ডবক্সে পাস করেন এমন কোনও টুল বা শংসাপত্র যা সেখানে চলে এমন যেকোন কোড দ্বারা পৌঁছানো যায়, ইনজেকশনের নির্দেশের প্রতিক্রিয়াতে লেখা কোড সহ।

বাস্তব-বিশ্ব বাস্তবায়ন

একটি ডেটা-বিশ্লেষণ সহকারী একটি আপলোড করা CSV পায়, এটি পরিষ্কার করার জন্য পান্ডাস কোড লেখে এবং প্রবণতা প্লট করে এবং সেই কোডটি একটি নিষ্পত্তিযোগ্য স্যান্ডবক্সে চালায় যা সেশন শেষ হলে মুছে ফেলা হয়।

একটি কোডিং এজেন্ট আউটবাউন্ড নেটওয়ার্ক অ্যাক্সেস ছাড়াই একটি কনটেইনারের ভিতরে একটি সংগ্রহস্থলের পরীক্ষা স্যুট চালায়, তাই একটি দূষিত নির্ভরতা স্ক্রিপ্ট বাইরের সার্ভারে সোর্স কোড বা গোপনীয়তা পাঠাতে পারে না।

একটি শিক্ষা প্ল্যাটফর্ম শিক্ষার্থীদের একটি এআই টিউটরকে Python উদাহরণগুলি চালানোর জন্য জিজ্ঞাসা করতে দেয়, প্রতিটি রান কয়েক সেকেন্ডের CPU এবং একটি নির্দিষ্ট মেমরি সীমাতে ক্যাপ করা থাকে যাতে একটি দুর্ঘটনাজনিত অসীম লুপ পরিষেবাটি আটকাতে না পারে।

একটি গবেষণা দল একটি এজেন্টকে একটি ডেটাসেটের একটি রিড-অনলি কপি এবং একটি একক লিখনযোগ্য আউটপুট ফোল্ডার সহ একটি মাইক্রোভিএম দেয়, যাতে এজেন্ট মূল ডেটা পরিবর্তন বা মুছে না দিয়ে ফলাফল তৈরি করতে পারে।

এজেন্টদের জন্য কোড এক্সিকিউশন স্যান্ডবক্সের ভবিষ্যত

কোড এক্সিকিউশন এআই সহকারী এবং এজেন্টদের জন্য একটি আদর্শ ক্ষমতা হয়ে উঠছে, তাই স্যান্ডবক্সিং প্রতিটি দল স্ক্র্যাচ থেকে তৈরি করা কিছুর পরিবর্তে বোধগম্য ডিফল্ট সহ একটি পণ্য পরিষেবা হয়ে উঠতে পারে। দ্রুত স্টার্টআপ, স্ন্যাপশট এবং সারসংকলন, এবং নেটওয়ার্ক এবং ফাইল অ্যাক্সেসের জন্য সূক্ষ্ম-দানাযুক্ত নীতিগুলির উপর অবিরত কাজ আশা করুন যা প্রতি টাস্ক সামঞ্জস্য করা যেতে পারে। বিচ্ছিন্নতার চেয়ে কঠিন খোলা সমস্যা হল নীতি: কোন এজেন্টের কাছে পৌঁছতে দেওয়া উচিত তা সিদ্ধান্ত নেওয়া এবং এজেন্টরা যখন দীর্ঘ স্বায়ত্তশাসিত পদক্ষেপ নেয় তখন ব্যবহারকারীদের অবহিত করা। অনুমতি, লগিং এবং মানুষের পর্যালোচনার পাশাপাশি বিচ্ছিন্নতা একটি স্তর থাকবে।

এটাকে বাস্তবে প্রয়োগ করা হচ্ছে

কেন এটা গুরুত্বপূর্ণ

  • খরচ ও বাজেট. আর্কিটেকচারের সিদ্ধান্তগুলি বছরের পর বছর ধরে কর্মক্ষমতা এবং অপারেটিং খরচ চালায়।
  • সুস্পষ্ট সিদ্ধান্ত. কারিগরি শিক্ষা দলগুলোকে সঠিক স্ট্যাক বেছে নিতে সাহায্য করে, শুধু নতুনটি নয়।
  • মান নিয়ন্ত্রণ. ভালো ইঞ্জিনিয়ারিং পছন্দ উৎপাদনে নির্ভরযোগ্যতার ঘটনা কমিয়ে দেয়।

জন্য সতর্ক

  • একটি বেঞ্চমার্ক অপ্টিমাইজ করা বৃহত্তর সিস্টেম দুর্বলতা আড়াল করতে পারে।
  • অবকাঠামো এবং রক্ষণাবেক্ষণের খরচ প্রায়ই অবমূল্যায়ন করা হয়।
  • সিস্টেমগুলি আরও জটিল হওয়ার সাথে সাথে সুরক্ষা এবং পর্যবেক্ষণযোগ্যতার ফাঁক বাড়তে পারে।

পরবর্তী পদক্ষেপ

  1. বাস্তবায়নের আগে বিলম্ব, গুণমান এবং খরচের লক্ষ্য নির্ধারণ করুন।
  2. বাস্তবসম্মত লোড এবং ডেটা অবস্থার অধীনে বেঞ্চমার্ক।
  3. ত্রুটি, প্রবাহ, এবং ব্যবহারকারীর প্রভাবের জন্য যন্ত্র পর্যবেক্ষণ।
  4. স্কেল করার আগে রোলব্যাক এবং ঘটনার প্রতিক্রিয়া পাথ প্রস্তুত করুন।

অন্বেষণ চালিয়ে যান

ফ্রি নিউজলেটার

প্রতিদিনের এআই ব্রিফিং পান

প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।

প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।

নিজেকে পরীক্ষা করুন

Take the Code Execution Sandboxes for Agents quiz

প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।

কুইজ শুরু করুন

ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

এজেন্টদের জন্য কোড এক্সিকিউশন স্যান্ডবক্স কি?

একটি কোড এক্সিকিউশন স্যান্ডবক্স হল একটি বিচ্ছিন্ন পরিবেশ যেখানে একজন AI এজেন্ট হোস্ট মেশিনের ক্ষতি না করেই যে কোডটি লিখেছে তা চালাতে পারে, এমন ডেটাতে পৌঁছাতে পারে যা এটি দেখতে পাবে না বা সীমাহীন সম্পদ ব্যবহার করতে পারে। এটি গুরুত্বপূর্ণ কারণ একটি এজেন্ট যে কোডটি চালাতে পারে সে অনেক বেশি সক্ষম (এটি গণনা করতে পারে, ফাইলগুলি বিশ্লেষণ করতে পারে এবং তার নিজের কাজ পরীক্ষা করতে পারে), কিন্তু মডেল-লিখিত কোডটি ডিফল্টরূপে অবিশ্বস্ত এবং প্রম্পট ইনজেকশন দ্বারা বগি, অপব্যয় বা ম্যানিপুলেট হতে পারে।

কেন একটি এআই এজেন্ট দ্বারা লেখা কোড ডিফল্টরূপে অবিশ্বস্ত হিসাবে বিবেচিত হয়?

গাইড ব্যাখ্যা করে যে মডেল-লিখিত কোডে বাগ থাকতে পারে, অতিরিক্ত সংস্থানগুলি ব্যবহার করতে পারে বা ইনজেকশন দেওয়া নির্দেশাবলী অনুসরণ করতে পারে, তাই এটি সরাসরি হোস্টে না হয়ে একটি সীমানার মধ্যে চালানো উচিত।

মাইক্রোভিএমের তুলনায় স্ট্যান্ডার্ড পাত্রের প্রধান নিরাপত্তা দুর্বলতা কী?

ধারক নেমস্পেস এবং cgroups ব্যবহার করে কিন্তু সবাই হোস্ট কার্নেল ভাগ করে, তাই একটি কার্নেল দুর্বলতা একটি পালানোর অনুমতি দিতে পারে। মাইক্রোভিএম প্রতিটি কাজের চাপকে নিজস্ব কার্নেল দেয়।

অবিশ্বস্ত কোড থেকে ঝুঁকি কমাতে gVisor কি যোগ করে?

GVisor, Google থেকে, একটি ব্যবহারকারী-স্পেস কার্নেল চালায় যা সিস্টেম কল পরিচালনা করে, প্রকৃত হোস্ট কার্নেলের অবিশ্বস্ত কোডের কতটুকু পৌঁছাতে পারে তা হ্রাস করে।

ফায়ারক্র্যাকার মাইক্রোভিএম মূলত AWS দ্বারা নির্মিত হয়েছিল কোন ধরনের পরিষেবা পাওয়ার জন্য?

ফায়ারক্র্যাকার তৈরি করা হয়েছে AWS সার্ভারহীন কাজের চাপ যেমন ল্যাম্বদা এবং ফার্গেটের জন্য, যেখানে অনেক বিচ্ছিন্ন কাজের চাপ দ্রুত শুরু করতে হবে।

কেন আউটবাউন্ড নেটওয়ার্ক অ্যাক্সেস সীমাবদ্ধ করা প্রায়ই সবচেয়ে গুরুত্বপূর্ণ স্যান্ডবক্স নিয়ন্ত্রণ হিসাবে বিবেচিত হয় যখন প্রম্পট ইনজেকশন সম্ভব?

যদি ইনজেকশনের নির্দেশাবলী এজেন্টকে দূষিত কোড লিখতে বাধ্য করে, একটি ডিফল্ট-ডিফল্ট নেটওয়ার্ক সেই কোডটিকে ডেটা উত্তোলন করা থেকে আটকায়।

শিখতে থাকুন

সম্পর্কিত গাইড

এই বিষয়ের জন্য বাছাই করা আরও গাইড

একটি বিনামূল্যে AI শংসাপত্র পানএকটি সংক্ষিপ্ত বিনামূল্যে কোর্স এবং পরীক্ষা. কোনো খরচ নেই, কোনো কার্ড নেই। প্রায় 2.5 ঘন্টা।বিনামূল্যে শুরু করুন →