কি হয়েছে
সিএনএন-এর একটি প্রতিবেদন অনুসারে, একজন মার্কিন বিশেষ অপারেশন কমান্ড বিশ্লেষক মধ্যপ্রাচ্যে একটি চীনা জাহাজের প্রকাশের মূল্যায়ন করতে একটি এআই চ্যাটবট ব্যবহার করেছেন। AI ওপেন-সোর্স এবং গোপন সংকেত বুদ্ধিমত্তাকে একত্রিত করে ভুলভাবে উপসংহারে পৌঁছেছে যে জাহাজটি পারমাণবিক অস্ত্রের উপাদান বহন করেছিল। এই মিথ্যা মূল্যায়ন প্রায় একটি সামরিক আক্রমণের প্ররোচনা দেয় যতক্ষণ না কর্মকর্তারা ত্রুটিটিকে AI-উত্পন্ন হিসাবে চিহ্নিত করে।
সিএনএন রিপোর্ট করেছে যে একটি মিথ্যা গোয়েন্দা প্রতিবেদন, আংশিকভাবে একটি এআই চ্যাটবট দ্বারা উত্পন্ন, প্রায় মার্কিন সামরিক বাহিনী মধ্যপ্রাচ্যে একটি চীনা জাহাজে হামলার কারণ হয়েছিল। সিএনএনের বরাত দিয়ে একটি সূত্র জানিয়েছে যে ঘটনাটি 'প্রায় একটি যুদ্ধ শুরু করেছে।'
মূল্যায়নটি একটি বিশেষ অপারেশন কমান্ড বিশ্লেষক দ্বারা তৈরি করা হয়েছিল যিনি জাহাজের ম্যানিফেস্ট সম্পর্কে একটি এআই চ্যাটবটকে জিজ্ঞাসা করেছিলেন। এআই অভিযুক্ত ওপেন সোর্স ইন্টেলিজেন্সকে গোপন সংকেত বুদ্ধিমত্তার সাথে একত্রিত করে একটি উপসংহার তৈরি করে যে জাহাজটিতে পারমাণবিক অস্ত্র কর্মসূচির উপাদান রয়েছে।
সামরিক আধিকারিকরা কথিত যে কোনও আক্রমণ চালানোর আগে মূল্যায়নটিকে এআই-উত্পন্ন হিসাবে চিহ্নিত করেছেন। সিএনএন উল্লেখ করেছে যে জাহাজটি আসলে কী বহন করছিল বা কোন নির্দিষ্ট এআই টুল, বাণিজ্যিক বা সরকার-পরিকল্পিত, বিশ্লেষক দ্বারা ব্যবহৃত হয়েছিল তা নির্ধারণ করতে পারেনি।
এনগ্যাজেট সিএনএন-এর প্রতিবেদনের বিষয়ে প্রতিরক্ষা বিভাগের কাছে মন্তব্যের অনুরোধ করেছে। ঘটনাটি প্রতিরক্ষা সচিব পিট হেগসেথের জানুয়ারির মেমোর পটভূমিতে ঘটে যা DoD-কে 'এআই-ফার্স্ট' হওয়ার নির্দেশ দেয় এবং শীর্ষস্থানীয় মার্কিন এআই কোম্পানিগুলির মডেলগুলির সাথে পরীক্ষা করে।
কেন এটা গুরুত্বপূর্ণ
এই ঘটনাটি উচ্চ-স্টেকের সামরিক সিদ্ধান্ত গ্রহণের প্রক্রিয়াগুলিতে AI-কে একীভূত করার গুরুতর নিরাপত্তা ঝুঁকিগুলিকে চিত্রিত করে। যেহেতু প্রতিরক্ষা বিভাগ তার 'এআই-প্রথম' কৌশলকে ত্বরান্বিত করে এবং বড় প্রযুক্তি সংস্থাগুলির সাথে অংশীদার হয়, তাই অনাকাঙ্ক্ষিত ভূ-রাজনৈতিক সংঘাতের সূত্রপাত করার জন্য AI হ্যালুসিনেশন বা ত্রুটির সম্ভাবনা একটি তাত্ত্বিক না হয়ে একটি বাস্তব নিরাপত্তা উদ্বেগ হয়ে ওঠে।
ঘটনাটি সংবেদনশীল বুদ্ধিমত্তা বিশ্লেষণের জন্য AI এর উপর নির্ভর করার বিপদগুলিকে তুলে ধরে, যেখানে ত্রুটিগুলি বিপর্যয়কর ভূ-রাজনৈতিক পরিণতি হতে পারে। এটি সামরিক AI অ্যাপ্লিকেশনগুলিতে শক্তিশালী মানব তদারকি এবং যাচাইকরণ প্রোটোকলের প্রয়োজনীয়তার উপর জোর দেয়।
এই ইভেন্টটি তাৎপর্যপূর্ণ কারণ এটি একটি উচ্চ-স্টেকের পরিবেশে AI-এর একটি বাস্তব-বিশ্ব ব্যর্থতার মোড প্রদর্শন করে, যা AI নিরাপত্তার আলোচনাকে বিমূর্ত নৈতিক বিতর্ক থেকে জাতীয় নিরাপত্তায় কংক্রিট অপারেশনাল ঝুঁকিতে নিয়ে যায়।
AI প্রযুক্তিগুলিকে একীভূত করার জন্য SpaceXAI, NVIDIA, Microsoft, এবং Amazon-এর মতো কোম্পানিগুলির সাথে DoD-এর সাম্প্রতিক অংশীদারিত্ব প্রতিরক্ষা প্রসঙ্গে AI-চালিত সিদ্ধান্তগুলির জন্য স্পষ্ট নিরাপত্তা মান এবং জবাবদিহিতা ব্যবস্থা প্রতিষ্ঠার জন্য জরুরিতা বাড়ায়৷
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
Why can ethical evaluation not be reduced to one model score?
পরবর্তী কি দেখতে
CNN-এর প্রতিবেদনে প্রতিরক্ষা বিভাগের অফিসিয়াল প্রতিক্রিয়া, সামরিক গোয়েন্দা কর্মপ্রবাহে AI যাচাইকরণ সম্পর্কিত সম্ভাব্য নীতি পরিবর্তন এবং সংবেদনশীল প্রতিরক্ষা কার্যক্রমে নির্দিষ্ট AI সরঞ্জামগুলি মোতায়েন করা হচ্ছে এমন আরও বিশদ বিবরণের জন্য দেখুন।
সরকারী বিবৃতি বা ঘটনা এবং জড়িত নির্দিষ্ট AI সরঞ্জাম সম্পর্কে প্রতিরক্ষা বিভাগের তদন্ত।
এআই-উত্পাদিত বুদ্ধিমত্তা মূল্যায়নের জন্য কঠোর মানব-ইন-লুপ প্রয়োজনীয়তা বাধ্যতামূলক করতে DoD-এর মধ্যে সম্ভাব্য নিয়ন্ত্রক বা নীতির পরিবর্তন।
AI সিস্টেমের নির্দিষ্ট ক্ষমতা এবং সীমাবদ্ধতা সম্পর্কে আরও রিপোর্টিং যা বর্তমানে মার্কিন সামরিক অভিযানে একীভূত হচ্ছে।