পরবর্তী আপপরবর্তী গাইড
এলএলএম এজেন্টদের জন্য ডিজাইনিং টুল
টেকনিক্যাল
প্রযুক্তিগত গাইড
একটি কোড এক্সিকিউশন স্যান্ডবক্স হল একটি বিচ্ছিন্ন পরিবেশ যেখানে একজন AI এজেন্ট হোস্ট মেশিনের ক্ষতি না করেই যে কোডটি লিখেছে তা চালাতে পারে, এমন ডেটাতে পৌঁছাতে পারে যা এটি দেখতে পাবে না বা সীমাহীন সম্পদ ব্যবহার করতে পারে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
এটি গুরুত্বপূর্ণ কারণ একটি এজেন্ট যে কোডটি চালাতে পারে সে অনেক বেশি সক্ষম (এটি গণনা করতে পারে, ফাইলগুলি বিশ্লেষণ করতে পারে এবং তার নিজের কাজ পরীক্ষা করতে পারে), কিন্তু মডেল-লিখিত কোডটি ডিফল্টরূপে অবিশ্বস্ত এবং প্রম্পট ইনজেকশন দ্বারা বগি, অপব্যয় বা ম্যানিপুলেট হতে পারে।
যখন একটি এজেন্ট কোড তৈরি করে, তখন কিছু এটি চালাতে হয়। একটি বিকাশকারী ল্যাপটপ বা প্রোডাকশন সার্ভারে সরাসরি সেই কোডটি চালানো ঝুঁকিপূর্ণ: কোডটি ফাইলগুলি মুছে ফেলতে পারে, পরিবেশের ভেরিয়েবল থেকে শংসাপত্র পড়তে পারে, সফ্টওয়্যার ইনস্টল করতে, খনি ক্রিপ্টোকারেন্সি বা নেটওয়ার্ক সংযোগগুলি খুলতে পারে৷ একটি স্যান্ডবক্স কোড এবং অন্য সবকিছুর মধ্যে একটি সীমানা রাখে। বিচ্ছিন্নতার বিভিন্ন স্তর রয়েছে, বিভিন্ন ট্রেড-অফ সহ। স্ট্যান্ডার্ড কন্টেইনার (উদাহরণস্বরূপ ডকার) লিনাক্স নেমস্পেস এবং cgroups ব্যবহার করে প্রসেস, ফাইল এবং নেটওয়ার্ক সম্পর্কে কোডের নিজস্ব দৃষ্টিভঙ্গি দিতে এবং CPU এবং মেমরি সীমিত করতে। এগুলি দ্রুত শুরু হয়, কিন্তু প্রতিটি কন্টেইনার হোস্টের কার্নেল ভাগ করে, তাই একটি কার্নেলের দুর্বলতা কোডকে পালাতে দেয়। GVisor, Google-এর একটি ওপেন-সোর্স প্রকল্প, একটি ব্যবহারকারী-স্পেস কার্নেল যোগ করে যা সিস্টেম কলগুলিকে বাধা দেয়, যা অবিশ্বস্ত কোড বাস্তব কার্নেলে স্পর্শ করতে পারে তা সঙ্কুচিত করে। মাইক্রোভিএম যেমন ফায়ারক্র্যাকার, মূলত ল্যাম্বডা এবং ফারগেটের জন্য AWS দ্বারা নির্মিত, প্রতিটি কাজের চাপকে তার নিজস্ব হালকা ভার্চুয়াল মেশিন এবং কার্নেল দেয় যখন এখনও সেকেন্ডের একটি ভগ্নাংশে বুট করা হয়। এজেন্টদের জন্য হোস্ট করা স্যান্ডবক্স পরিষেবা, যেমন E2B, এই মাইক্রোভিএম পদ্ধতির উপর ভিত্তি করে তৈরি করে। সবচেয়ে হালকা শেষে, WebAssembly রানটাইম এবং Pyodide এর মতো টুলগুলি ব্রাউজারে Python বা Wasm স্যান্ডবক্সে সরাসরি সিস্টেম অ্যাক্সেস ছাড়াই চালাতে পারে। আইসোলেশন প্রযুক্তি ডিজাইনের মাত্র অর্ধেক। ভাল স্যান্ডবক্সগুলি নেটওয়ার্ককেও সীমাবদ্ধ করে (অনুমোদিত তালিকার সাথে প্রায়শই ডিফল্টভাবে অস্বীকার করে), একটি স্ক্র্যাচ ডিরেক্টরি ব্যতীত শুধুমাত্র পঠনযোগ্য ফাইল সিস্টেম মাউন্ট করে, সম্পূর্ণরূপে পরিবেশ থেকে গোপন রাখে এবং সময়, মেমরি, প্রক্রিয়া-গণনা এবং ডিস্কের সীমা প্রয়োগ করে। এগুলি সাধারণত ক্ষণস্থায়ী হয়: প্রতি টাস্ক তৈরি করা হয় এবং পরে ধ্বংস করা হয়। একটি সাধারণ ভুল ধারণা হল যে একটি স্যান্ডবক্স একটি এজেন্টকে নিরাপদ করে তোলে। এটি কোড থেকেই ক্ষতি সীমিত করে, কিন্তু এটি কোনও এজেন্টকে ভুল উত্তর তৈরি করা থেকে বিরত করে না, এবং আপনি স্যান্ডবক্সে পাস করেন এমন কোনও টুল বা শংসাপত্র যা সেখানে চলে এমন যেকোন কোড দ্বারা পৌঁছানো যায়, ইনজেকশনের নির্দেশের প্রতিক্রিয়াতে লেখা কোড সহ।
একটি ডেটা-বিশ্লেষণ সহকারী একটি আপলোড করা CSV পায়, এটি পরিষ্কার করার জন্য পান্ডাস কোড লেখে এবং প্রবণতা প্লট করে এবং সেই কোডটি একটি নিষ্পত্তিযোগ্য স্যান্ডবক্সে চালায় যা সেশন শেষ হলে মুছে ফেলা হয়।
একটি কোডিং এজেন্ট আউটবাউন্ড নেটওয়ার্ক অ্যাক্সেস ছাড়াই একটি কনটেইনারের ভিতরে একটি সংগ্রহস্থলের পরীক্ষা স্যুট চালায়, তাই একটি দূষিত নির্ভরতা স্ক্রিপ্ট বাইরের সার্ভারে সোর্স কোড বা গোপনীয়তা পাঠাতে পারে না।
একটি শিক্ষা প্ল্যাটফর্ম শিক্ষার্থীদের একটি এআই টিউটরকে Python উদাহরণগুলি চালানোর জন্য জিজ্ঞাসা করতে দেয়, প্রতিটি রান কয়েক সেকেন্ডের CPU এবং একটি নির্দিষ্ট মেমরি সীমাতে ক্যাপ করা থাকে যাতে একটি দুর্ঘটনাজনিত অসীম লুপ পরিষেবাটি আটকাতে না পারে।
একটি গবেষণা দল একটি এজেন্টকে একটি ডেটাসেটের একটি রিড-অনলি কপি এবং একটি একক লিখনযোগ্য আউটপুট ফোল্ডার সহ একটি মাইক্রোভিএম দেয়, যাতে এজেন্ট মূল ডেটা পরিবর্তন বা মুছে না দিয়ে ফলাফল তৈরি করতে পারে।
কোড এক্সিকিউশন এআই সহকারী এবং এজেন্টদের জন্য একটি আদর্শ ক্ষমতা হয়ে উঠছে, তাই স্যান্ডবক্সিং প্রতিটি দল স্ক্র্যাচ থেকে তৈরি করা কিছুর পরিবর্তে বোধগম্য ডিফল্ট সহ একটি পণ্য পরিষেবা হয়ে উঠতে পারে। দ্রুত স্টার্টআপ, স্ন্যাপশট এবং সারসংকলন, এবং নেটওয়ার্ক এবং ফাইল অ্যাক্সেসের জন্য সূক্ষ্ম-দানাযুক্ত নীতিগুলির উপর অবিরত কাজ আশা করুন যা প্রতি টাস্ক সামঞ্জস্য করা যেতে পারে। বিচ্ছিন্নতার চেয়ে কঠিন খোলা সমস্যা হল নীতি: কোন এজেন্টের কাছে পৌঁছতে দেওয়া উচিত তা সিদ্ধান্ত নেওয়া এবং এজেন্টরা যখন দীর্ঘ স্বায়ত্তশাসিত পদক্ষেপ নেয় তখন ব্যবহারকারীদের অবহিত করা। অনুমতি, লগিং এবং মানুষের পর্যালোচনার পাশাপাশি বিচ্ছিন্নতা একটি স্তর থাকবে।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
একটি কোড এক্সিকিউশন স্যান্ডবক্স হল একটি বিচ্ছিন্ন পরিবেশ যেখানে একজন AI এজেন্ট হোস্ট মেশিনের ক্ষতি না করেই যে কোডটি লিখেছে তা চালাতে পারে, এমন ডেটাতে পৌঁছাতে পারে যা এটি দেখতে পাবে না বা সীমাহীন সম্পদ ব্যবহার করতে পারে। এটি গুরুত্বপূর্ণ কারণ একটি এজেন্ট যে কোডটি চালাতে পারে সে অনেক বেশি সক্ষম (এটি গণনা করতে পারে, ফাইলগুলি বিশ্লেষণ করতে পারে এবং তার নিজের কাজ পরীক্ষা করতে পারে), কিন্তু মডেল-লিখিত কোডটি ডিফল্টরূপে অবিশ্বস্ত এবং প্রম্পট ইনজেকশন দ্বারা বগি, অপব্যয় বা ম্যানিপুলেট হতে পারে।
গাইড ব্যাখ্যা করে যে মডেল-লিখিত কোডে বাগ থাকতে পারে, অতিরিক্ত সংস্থানগুলি ব্যবহার করতে পারে বা ইনজেকশন দেওয়া নির্দেশাবলী অনুসরণ করতে পারে, তাই এটি সরাসরি হোস্টে না হয়ে একটি সীমানার মধ্যে চালানো উচিত।
ধারক নেমস্পেস এবং cgroups ব্যবহার করে কিন্তু সবাই হোস্ট কার্নেল ভাগ করে, তাই একটি কার্নেল দুর্বলতা একটি পালানোর অনুমতি দিতে পারে। মাইক্রোভিএম প্রতিটি কাজের চাপকে নিজস্ব কার্নেল দেয়।
GVisor, Google থেকে, একটি ব্যবহারকারী-স্পেস কার্নেল চালায় যা সিস্টেম কল পরিচালনা করে, প্রকৃত হোস্ট কার্নেলের অবিশ্বস্ত কোডের কতটুকু পৌঁছাতে পারে তা হ্রাস করে।
ফায়ারক্র্যাকার তৈরি করা হয়েছে AWS সার্ভারহীন কাজের চাপ যেমন ল্যাম্বদা এবং ফার্গেটের জন্য, যেখানে অনেক বিচ্ছিন্ন কাজের চাপ দ্রুত শুরু করতে হবে।
যদি ইনজেকশনের নির্দেশাবলী এজেন্টকে দূষিত কোড লিখতে বাধ্য করে, একটি ডিফল্ট-ডিফল্ট নেটওয়ার্ক সেই কোডটিকে ডেটা উত্তোলন করা থেকে আটকায়।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
এলএলএম এজেন্টদের জন্য ডিজাইনিং টুল
টেকনিক্যাল