কি হয়েছে
সিকিউরিটিব্রিফ অস্ট্রেলিয়া রিপোর্ট করেছে যে অস্বাভাবিক এআই এআই ক্লাউড সিকিউরিটি চালু করেছে, নির্বাচিত গ্রাহকদের জন্য একটি ব্যক্তিগত-প্রিভিউ পণ্য। পরিষেবাটি মানব ব্যবহারকারী, পরিষেবা অ্যাকাউন্ট, API কী, ওয়ার্কলোড এবং এআই এজেন্ট জুড়ে স্বাভাবিক আচরণের মডেল করার জন্য ডিজাইন করা হয়েছে, তারপরে অস্বাভাবিক কার্যকলাপ সনাক্ত করে এবং পূর্বনির্ধারিত প্রতিক্রিয়াগুলিকে সমর্থন করে যেমন ওয়ার্কলোডগুলি আলাদা করা বা শংসাপত্র প্রত্যাহার করা।
সিকিউরিটিব্রিফ অস্ট্রেলিয়া রিপোর্ট করেছে যে অস্বাভাবিক এআই এআই ক্লাউড সিকিউরিটি চালু করেছে এবং এটি নির্বাচিত গ্রাহকদের জন্য ব্যক্তিগত প্রিভিউতে রেখেছে। কোম্পানিটি তার আচরণ-ভিত্তিক নিরাপত্তা পদ্ধতিকে ইমেল, পরিচয় এবং অভ্যন্তরীণ-হুমকি পর্যবেক্ষণের বাইরে ক্লাউড অবকাঠামোতে প্রসারিত করছে, এআই-এজেন্ট কার্যকলাপকে কেন্দ্রীয় ফোকাস হিসাবে।
সিকিউরিটিব্রিফ অস্ট্রেলিয়ার মতে, পণ্যটি মানব ব্যবহারকারী, পরিষেবা অ্যাকাউন্ট, API কী এবং এআই এজেন্ট সহ গ্রাহক পরিবেশ জুড়ে পরিচয়ের জন্য আচরণগত মডেল তৈরি করে। এটি তদন্তের জন্য স্বাভাবিক কার্যকলাপ এবং পতাকা বিচ্যুতির জন্য ভিত্তিরেখা স্থাপন করার উদ্দেশ্যে করা হয়েছে।
প্রতিবেদনে বলা হয়েছে যে গ্রাহকরা পূর্বনির্ধারিত প্রতিক্রিয়া ক্রিয়াগুলি কনফিগার করতে পারে, যার মধ্যে একটি কাজের চাপ বিচ্ছিন্ন করা, একটি শংসাপত্র প্রত্যাহার করা এবং প্রভাবিত সংস্থান রয়েছে। গ্রাহকরা ঘটনার তীব্রতার উপর নির্ভর করে স্বয়ংক্রিয় ক্রিয়া বা মানব পর্যালোচনা বেছে নিতে পারেন। প্রতিবেদনটি মূল্য, সাধারণ-উপলভ্যতার সময়, ক্লাউড-প্রোভাইডার কভারেজ বা স্বাধীন পরীক্ষার ফলাফল প্রদান করে না।
সিকিউরিটিব্রিফ অস্ট্রেলিয়া রিপোর্ট করে যে OpenAI ডেব্রেক মডেলগুলি তদন্তের সময় লগ এবং আচরণগত সংকেতগুলি বিশ্লেষণ করে, প্রতিক্রিয়াকারীদের একটি ঘটনা বুঝতে সাহায্য করে, এর সুযোগ মূল্যায়ন করে এবং প্রতিক্রিয়ার ব্যবস্থা বেছে নেয়। আউটলেট এই অনুসন্ধানী ব্যবহারকে পণ্যের সনাক্তকরণ প্রক্রিয়া হিসাবে উপস্থাপিত আচরণগত সিস্টেম থেকে আলাদা করে।
উত্স বিবরণ: securitybrief.com.au ↗
কেন এটা গুরুত্বপূর্ণ
এআই এজেন্টরা ক্লাউড সিস্টেম জুড়ে এমন গতিতে কাজ করতে পারে যা প্রচলিত নিরাপত্তা পর্যালোচনা প্রক্রিয়াকে অতিক্রম করতে পারে। সিকিউরিটিব্রিফ অস্ট্রেলিয়া রিপোর্ট করেছে যে অস্বাভাবিক AI এই অ-মানবিক পরিচয়গুলিতে আচরণ-ভিত্তিক সনাক্তকরণকে প্রসারিত করছে, সম্ভাব্য নিরাপত্তা দলগুলিকে এমন কার্যকলাপ সনাক্ত করার একটি উপায় দিচ্ছে যা পরিচিত হুমকি স্বাক্ষরের সাথে মেলে না। ব্যবহারিক মূল্য সনাক্তকরণের নির্ভুলতা, প্রতিক্রিয়া সুরক্ষা, ইন্টিগ্রেশন কভারেজ এবং গ্রাহকরা বৈধ অটোমেশন থেকে দূষিত আচরণকে নির্ভরযোগ্যভাবে আলাদা করতে পারে কিনা তার উপর নির্ভর করবে।
সিকিউরিটিব্রিফ অস্ট্রেলিয়া ক্রমবর্ধমান সম্ভাবনার প্রতিক্রিয়া হিসাবে লঞ্চটিকে ফ্রেম করেছে যে স্বায়ত্তশাসিত সফ্টওয়্যার এজেন্ট দুর্বলতাগুলিকে একত্রে চেইন করতে পারে, ক্লাউড সংস্থানগুলি অ্যাক্সেস করতে পারে এবং মানব বিশ্লেষকরা সতর্কতাগুলি তদন্ত করতে পারে তার চেয়ে দ্রুত কাজ করতে পারে। এটি একটি অপারেশনাল সমস্যার পাশাপাশি একটি প্রযুক্তিগত সমস্যা তৈরি করে: সংস্থাগুলির এমন নিয়ন্ত্রণের প্রয়োজন হতে পারে যা পরিচয় আচরণকে ব্যাখ্যা করতে পারে এবং সংকীর্ণভাবে সংজ্ঞায়িত কন্টেনমেন্ট পদক্ষেপগুলি দ্রুত সম্পাদন করতে পারে।
আচরণ-ভিত্তিক পর্যবেক্ষণ উপযোগী হতে পারে যেখানে একজন এজেন্টের ক্রিয়াগুলি অভিনব এবং সেইজন্য সমঝোতার প্রতিষ্ঠিত সূচকগুলির অভাব রয়েছে। কিন্তু রিপোর্টে কোন স্বাধীন প্রমাণ পাওয়া যায় না যে অস্বাভাবিক এআই সিস্টেম উৎপাদন পরিবেশে দুর্বৃত্ত এজেন্টদের সঠিকভাবে সনাক্ত করতে পারে। নীতি বা আচরণগত ভিত্তিরেখা ভুল হলে স্বয়ংক্রিয় শংসাপত্র প্রত্যাহার বা কাজের চাপ বিচ্ছিন্নতা বৈধ কর্মপ্রবাহকে ব্যাহত করতে পারে।
প্রতিবেদনে বলা হয়েছে যে অস্বাভাবিক AI ফরচুন 500-এর 25%-এরও বেশি সহ 4,500টিরও বেশি সংস্থাকে সুরক্ষা দেওয়ার দাবি করে৷ এই পরিসংখ্যানগুলি সিকিউরিটিব্রিফ অস্ট্রেলিয়ার দ্বারা রিপোর্ট করা কোম্পানির দাবি এবং সরবরাহকৃত উত্স থেকে স্বাধীনভাবে নিশ্চিত করা হয়নি৷
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
পরবর্তী কি দেখতে
রিপোর্ট অনুযায়ী পণ্যটি সাধারণত পাওয়া যায় না। মূল অজানাগুলির মধ্যে রয়েছে মূল্য নির্ধারণ, সমর্থিত ক্লাউড প্ল্যাটফর্ম, সনাক্তকরণ কার্যক্ষমতা, মিথ্যা-ইতিবাচক হার, প্রতিক্রিয়া সীমা এবং কোন গ্রাহকরা ব্যক্তিগত পূর্বরূপতে যোগ দিতে পারেন। সিকিউরিটিব্রিফ অস্ট্রেলিয়া আরও জানায় যে OpenAI ডেব্রেক মডেলগুলি লগ এবং আচরণগত সংকেতগুলি তদন্ত করতে ব্যবহৃত হয়, কিন্তু বলে যে তারা সনাক্তকরণ ইঞ্জিন নয়। উদ্ধৃত OpenAI-Hugging Face ঘটনা এবং সম্পর্কিত দাবিগুলি এখানে স্বাধীনভাবে নিশ্চিত করা হয়নি।
তাত্ক্ষণিক মাইলফলক হল ব্যক্তিগত পূর্বরূপ একটি সর্বজনীনভাবে উপলব্ধ পণ্যে প্রসারিত হয় কিনা। অ্যাক্সেসের শর্ত, মূল্য, পরিষেবা-স্তরের প্রতিশ্রুতি এবং সমর্থিত ক্লাউড পরিবেশগুলি অজানা থেকে যায়।
সুরক্ষা দলগুলিকে স্বাধীন মূল্যায়নের জন্য পর্যবেক্ষণ করা উচিত যে সিস্টেমটি বৈধ উচ্চ-ভলিউম অটোমেশন, আপোসকৃত পরিষেবা অ্যাকাউন্ট, প্রম্পট-ইনজেকশন এজেন্ট এবং পূর্বে অদেখা আক্রমণের পথগুলির বিরুদ্ধে কীভাবে কাজ করে তা দেখায়। সরবরাহকৃত রিপোর্টে এমন কোন পরীক্ষা নেই।
সনাক্তকরণ এবং তদন্তের মধ্যে বিভাজন গুরুত্বপূর্ণ। সিকিউরিটিব্রিফ অস্ট্রেলিয়া রিপোর্ট করে যে OpenAI ডেব্রেক মডেলগুলি সিগন্যাল তৈরি হওয়ার পরে প্রমাণ বিশ্লেষণে সহায়তা করে; এটি রিপোর্ট করে না যে এই মডেলগুলি স্বাধীনভাবে সিদ্ধান্ত নেয় কোন কার্যকলাপ দূষিত।
স্বয়ংক্রিয় বিচ্ছিন্নতা বা শংসাপত্র প্রত্যাহার করার অনুমতি দেয় এমন যেকোনো স্থাপনার জন্য স্পষ্ট অনুমোদন নীতি, অডিট লগ, রোলব্যাক পদ্ধতি এবং মানব বৃদ্ধির প্রয়োজন হবে। এই নিয়ন্ত্রণগুলি কীভাবে কাজ করে তা প্রতিবেদনে উল্লেখ করা হয়নি।