পরবর্তী আপপরবর্তী গাইড
এমএল সাপ্লাই চেইন সিকিউরিটি এবং মডেল সাইনিং
টেকনিক্যাল
প্রযুক্তিগত গাইড
MCP সিকিউরিটি মডেল কনটেক্সট প্রোটোকল সার্ভারের সাথে AI এজেন্টদের সংযোগ করা থেকে আসা ঝুঁকিগুলিকে কভার করে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
সর্বাধিক পরিচিত ঝুঁকি হল টুল বিষক্রিয়া, যেখানে একটি টুলের বিবরণ মডেলটি অনুসরণ করে এমন নির্দেশাবলী লুকিয়ে রাখে কিন্তু ব্যবহারকারী কখনই দেখতে পায় না। যেহেতু MCP সার্ভারগুলি ফাইলগুলি পড়তে, বার্তা পাঠাতে এবং বাস্তব শংসাপত্রের সাথে কাজ করতে পারে, তাই একটি দূষিত বা অসতর্ক সার্ভার একটি সহায়ক সহায়ককে ডেটা চুরি বা ক্ষতি করার উপায়ে পরিণত করতে পারে।
মডেল কনটেক্সট প্রোটোকল, যা Anthropic 2024 সালের শেষের দিকে প্রবর্তন করেছিল, AI অ্যাপ্লিকেশনগুলি কীভাবে বাহ্যিক সরঞ্জাম এবং ডেটার সাথে সংযোগ করে তা মানক করে। একটি ক্লায়েন্ট যেমন একটি ডেস্কটপ সহকারী বা IDE সার্ভারের সাথে সংযোগ করে এবং প্রতিটি সার্ভার নাম, বিবরণ এবং ইনপুট স্কিমা সহ সরঞ্জামগুলির বিজ্ঞাপন দেয়। মডেলটি তার প্রেক্ষাপটের অংশ হিসাবে সেই বিবরণগুলি পড়ে এবং সেখান থেকেই মূল ঝুঁকিটি আসে। টুল বিষক্রিয়া একটি টুলের বর্ণনা বা মেটাডেটার ভিতরে দূষিত নির্দেশাবলী রাখে। মডেল বর্ণনাটিকে বিশ্বস্ত নির্দেশিকা হিসাবে বিবেচনা করে, কিন্তু অনেক ইন্টারফেস ব্যবহারকারীদের শুধুমাত্র একটি ছোট নাম দেখায়, তাই লুকানো পাঠ্যটি অদৃশ্য হয়ে যায়। একটি বিষাক্ত টুল এছাড়াও মডেল অন্যান্য, বৈধ সরঞ্জাম ব্যবহার করে কিভাবে বাচাতে পারে. একে কখনও কখনও টুল শ্যাডিং বলা হয়। একটি রাগ টান ঘটে যখন একটি সার্ভার যা নিরাপদ হিসাবে অনুমোদিত হয়েছিল পরে তার সরঞ্জামের সংজ্ঞা পরিবর্তন করে। অধিকাংশ অনুমোদন একবার হয়, তাই পরিবর্তন অলক্ষিত যেতে পারে। অতি-বিস্তৃত অনুমতি যে কোনো আক্রমণ থেকে ক্ষতি বাড়ায়। সম্পূর্ণ অ্যাকাউন্ট অ্যাক্সেস সহ একটি টোকেন ধারণ করা একটি সার্ভার, বা হোম ডিরেক্টরিতে রুট করা একটি ফাইলসিস্টেম সার্ভার, আক্রমণকারীকে প্রয়োজনীয় কাজের চেয়ে অনেক বেশি দেয়। একটি বিভ্রান্ত ডেপুটি হল একটি বিশ্বস্ত উপাদান যা অন্য কারো জন্য তার কর্তৃত্ব ব্যবহার করে প্রতারিত হয়। MCP সেটআপগুলিতে, একটি সাধারণ সংস্করণ হল পরোক্ষ প্রম্পট ইনজেকশন: অবিশ্বস্ত বিষয়বস্তু যেমন একটি ওয়েব পৃষ্ঠা, ইমেল বা সমস্যা মন্তব্য প্রসঙ্গে টানা হয় এবং এজেন্টকে অন্য সার্ভারের অ্যাক্সেসের অপব্যবহার করতে বলে। মডেল নির্ভরযোগ্যভাবে নির্দেশাবলী থেকে তথ্য বলতে পারে না. এটা ভাবা ভুল যে শুধুমাত্র সম্মানজনক সার্ভার ইনস্টল করা সমস্যার সমাধান করে। ইনজেকশন বিশ্বস্ত সরঞ্জাম দ্বারা ফেরত সাধারণ তথ্য মাধ্যমে আসতে পারে. প্রতিরক্ষার স্তরগুলির প্রয়োজন: পশুচিকিত্সক এবং পিন সার্ভার, সম্পূর্ণ বিবরণ দেখান এবং যখন তারা পরিবর্তন হয় তখন সতর্কতা, ন্যূনতম বিশেষাধিকার প্রদান, সার্ভারকে একে অপরের থেকে বিচ্ছিন্ন করা, সংবেদনশীল ক্রিয়াকলাপের জন্য নিশ্চিতকরণের প্রয়োজন এবং সবকিছু লগ করা।
একটি 'আবহাওয়া' MCP সার্ভারের টুলের বিবরণে একটি লুকানো লাইন রয়েছে যা মডেলটিকে ব্যবহারকারীর SSH কী পড়তে এবং এটিকে একটি অতিরিক্ত প্যারামিটার হিসেবে পাস করতে বলে। চ্যাট ইন্টারফেস শুধুমাত্র টুলের নাম দেখায়, তাই ব্যবহারকারী কখনই লক্ষ্য করে না।
একটি জনপ্রিয় সম্প্রদায় সার্ভার সপ্তাহ ধরে ভাল আচরণ করে এবং তারপরে একটি আপডেট পাঠায় যা কথোপকথনের বিষয়বস্তু ফাঁস করার জন্য একটি টুলের বিবরণ পরিবর্তন করে। ক্লায়েন্ট যারা সংস্করণগুলি পিন করে না বা পরিবর্তিত সংজ্ঞা পরীক্ষা করে না তারা নীরবে পরিবর্তনটি গ্রহণ করে।
GitHub সার্ভার এবং একটি ইমেল সার্ভার উভয়েরই একজন এজেন্ট একটি পাবলিক ইস্যু পড়ে যাতে ইনজেক্ট করা নির্দেশাবলী থাকে, তারপর ইমেল গোপনীয়তার জন্য তার ব্যক্তিগত সংগ্রহস্থলের অ্যাক্সেস ব্যবহার করে। এটি একটি বিভ্রান্ত-ডেপুটি আক্রমণ যা ব্যবহারকারীর বৈধ অনুমতি ব্যবহার করে।
একটি কোম্পানি তার অভ্যন্তরীণ MCP সার্ভারগুলিকে শুধুমাত্র পঠনযোগ্য টোকেনগুলির সাথে একক প্রকল্পে স্কোপ করে চালায়, বাইরের ডেটা পাঠায় এমন যেকোনো টুলের জন্য মানুষের অনুমোদনের প্রয়োজন হয় এবং পর্যালোচনার জন্য প্রতিটি টুল কল লগ করে৷
MCP স্পেসিফিকেশন এবং এর ইকোসিস্টেম সময়ের সাথে সাথে নিরাপত্তা বৈশিষ্ট্য যোগ করছে, যার মধ্যে একটি OAuth-ভিত্তিক অনুমোদন মডেল এবং টুল কলের জন্য ব্যবহারকারীর সম্মতির নির্দেশিকা রয়েছে। একটি সার্ভার কোথা থেকে এসেছে তা বিচার করতে লোকেদের সাহায্য করার জন্য রেজিস্ট্রি, সাইনিং এবং স্ক্যানিং টুল প্রদর্শিত হচ্ছে। প্রম্পট ইনজেকশন নিজেই একটি অমীমাংসিত গবেষণা সমস্যা রয়ে গেছে, তাই কোনও একক সমাধান টুলের বিবরণ বা টুল আউটপুটকে সম্পূর্ণ নিরাপদ করে না। আর্কিটেকচার এখন সবচেয়ে নির্ভরযোগ্য প্রতিরক্ষা: ন্যূনতম বিশেষাধিকার, বিচ্ছিন্নতা, উচ্চ-প্রভাবমূলক কর্মের জন্য মানব চেকপয়েন্ট এবং পর্যবেক্ষণ। এমসিপি গ্রহণকারী সংস্থাগুলি সার্ভারগুলিকে তৃতীয় পক্ষের সফ্টওয়্যার নির্ভরতাগুলি যেভাবে পরিচালনা করে সেভাবে পরিচালনা করবে বলে আশা করা উচিত।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
MCP সিকিউরিটি মডেল কনটেক্সট প্রোটোকল সার্ভারের সাথে AI এজেন্টদের সংযোগ করা থেকে আসা ঝুঁকিগুলিকে কভার করে। সবচেয়ে পরিচিত ঝুঁকি হল টুল পয়জনিং, যেখানে একটি টুলের বিবরণ মডেলটি অনুসরণ করে এমন নির্দেশাবলী লুকিয়ে রাখে কিন্তু ব্যবহারকারী কখনই দেখতে পায় না। যেহেতু MCP সার্ভারগুলি ফাইলগুলি পড়তে, বার্তা পাঠাতে এবং বাস্তব শংসাপত্রের সাথে কাজ করতে পারে, তাই একটি দূষিত বা অসতর্ক সার্ভার একটি সহায়ক সহায়ককে ডেটা চুরি বা ক্ষতি করার উপায়ে পরিণত করতে পারে।
মডেলটি বিশ্বস্ত নির্দেশিকা হিসাবে টুলের বিবরণ পড়ে। তাদের মধ্যে লুকানো নির্দেশাবলী ব্যবহারকারীকে না দেখেই এর আচরণ পরিচালনা করতে পারে।
মডেলটি সম্পূর্ণ পাঠ্য দেখতে পায়, যখন ব্যবহারকারী শুধুমাত্র একটি লেবেল দেখতে পারে। এই ফাঁক যা লুকানো নির্দেশাবলী কাজ করে তোলে.
অনুমোদন সাধারণত একবার হয়। একটি সার্ভার যা পরবর্তীতে তার সংজ্ঞা পরিবর্তন করে তা সেই এক-বারের চেক অতীতে দূষিত আচরণ স্খলন করতে পারে।
একটি বিশ্বস্ত উপাদান, এখানে ব্যবহারকারীর অনুমতি সহ এজেন্ট, আক্রমণকারীর জন্য তার কর্তৃত্ব ব্যবহার করে প্রতারিত হয়।
ওয়েব পেজ, ইমেল এবং সৎ টুল দ্বারা প্রাপ্ত সমস্যাগুলি ইনজেকশনের নির্দেশাবলী বহন করতে পারে, তাই সার্ভারের উপর আস্থা এটি যে বিষয়বস্তু ফেরত দেয় তা কভার করে না।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
এমএল সাপ্লাই চেইন সিকিউরিটি এবং মডেল সাইনিং
টেকনিক্যাল