গবেষকরা 100,000 এজেন্টদের জন্য AI প্রভাব-প্রচারণা সিমুলেটর তৈরি করেন

কি হয়েছে

একটি নতুন arXiv পেপার IO ফ্যাক্টরি উপস্থাপন করে, AI-সক্ষম প্রভাব প্রচারাভিযানগুলিকে ট্রেসযোগ্য জীবনচক্র হিসাবে অনুকরণ করার জন্য একটি গবেষণা কাঠামো। সিস্টেমটি এক্সপোজার রেকর্ড এবং কনফিগার করা শ্রোতা পরিবর্তনের সাথে সমন্বিত এজেন্ট ক্রিয়াগুলিকে সংযুক্ত করে, গবেষকরা একটি নিয়ন্ত্রিত প্ল্যাটফর্মের ভিতরে একটি মিল বেসলাইনের সাথে চালানো একটি সক্রিয় প্রচারণার তুলনা করতে দেয়৷

ফ্রেমওয়ার্ক তিনটি স্তরকে আলাদা করে যা প্রায়শই অনলাইন ম্যানিপুলেশনের আলোচনায় ভেঙে পড়ে: একটি কন্ট্রোল প্লেন যা পরীক্ষার সময়সূচী করে, একটি সিমুলেশন প্লেন যেখানে এজেন্টরা একটি প্ল্যাটফর্মে কাজ করে এবং একটি মূল্যায়ন প্লেন যা এক্সপোজার এবং অবস্থার পরিবর্তনগুলি পরিমাপ করে। একটি বার্তা শুধুমাত্র প্রভাব হিসাবে গণনা করা হয় না কারণ এটি তৈরি হয়েছিল। এটি অবশ্যই স্থাপন করতে হবে, প্ল্যাটফর্মের নিয়মের অধীনে দৃশ্যমান হতে হবে, একজন আদর্শ নাগরিকের কাছে পৌঁছাতে হবে, কনফিগার করা পরিমাপ পদ্ধতিটি পাস করতে হবে এবং তারপরে একটি বেসলাইনের সাথে তুলনা করতে হবে।

রিপোর্ট করা বাস্তবায়ন সিমুলেটেড অভিনেতাদের জন্য H200 নোডে জেমা 4 31B ব্যবহার করে এবং 100,000 বেসামরিক এবং 10,000 প্রভাব-অপারেশন অপারেটরদের সাথে একটি বৈধতা চালানো সমর্থন করে। কাগজের মিলিত প্রমাণ 10,000 সিভিলিয়ান এবং 13 জোড়া বেসলাইন-সক্রিয় প্রতিলিপি সহ ছোট নকশা থেকে আসে। লেখকরা রাশিয়ার প্রতি আস্থা বৃদ্ধি এবং পোকামাকড় খাওয়ার জন্য সমর্থনকে লক্ষ্য করে একটি দ্বি-নির্মাণ দৃশ্যকল্প পরীক্ষা করেছেন, পাশাপাশি সরকারী প্রতিষ্ঠানের উপর নিম্ন আস্থার লক্ষ্যে একটি পৃথক দৃশ্যকল্প; এগুলি সিমুলেশন সেটিংস, বাস্তব জনসংখ্যা সম্পর্কে পর্যবেক্ষণ নয়।

দ্বি-নির্মাণ নকশায়, কাগজটি পোকামাকড় খাওয়ার জন্য সমর্থনের জন্য 0.132 এর দিকনির্দেশক লিফ্ট এবং রাশিয়ায় বিশ্বাসের জন্য 0.130 এর দিকনির্দেশনামূলক লিফ্ট রিপোর্ট করে। একক-নির্মাণ নকশায়, 0.336-এর রিপোর্ট করা সাইন-অ্যাডজাস্টেড লিফটের সাথে বেসলাইনের তুলনায় পাবলিক প্রতিষ্ঠানের উপর আস্থা হ্রাস পায়। p <0.001 এ Holm সংশোধনের পরে তিনটি প্রাথমিক শেষ পয়েন্টই তাৎপর্যপূর্ণ। একই টেবিলটি সক্রিয় রানে উচ্চতর মডেলের পোলারাইজেশন রিপোর্ট করে, যার মধ্যে একক-নির্মাণ নকশার জন্য 4.714 বনাম 3.865 সহ, কিন্তু সেই মানগুলি সিমুলেটরের স্কেলে থাকে।

লেখকরা উভয় প্রধান ডিজাইনে প্রায় 0.494 এর একটি সক্রিয়-নাগালের ভগ্নাংশের রিপোর্ট করেছেন, যার অর্থ মোটামুটিভাবে মডেল করা বেসামরিক নাগরিকদের একটি প্রভাব-অপারেশন উত্স জড়িত একটি এক্সপোজার রেকর্ড ছিল। কনফিগার করা পরিমাপের অধীনে বেসামরিক রিলে কার্যকলাপ কম ছিল, বিশেষ করে একক-নির্মাণ নকশায়। কাগজটি বারবার ব্যাখ্যাটিকে সীমিত করে: রানগুলি দেখায় যে IO ফ্যাক্টরি ঘোষিত প্রচারাভিযানের অনুমানগুলি সম্পাদন এবং পরিমাপ করতে পারে, এমন নয় যে একটি এআই প্রচারণা একটি বাস্তব প্ল্যাটফর্ম বা জনসংখ্যার উপর সেই প্রভাবগুলি অর্জন করবে।

উত্স বিবরণ: IO Factory research paper on arXiv ↗

কেন এটা গুরুত্বপূর্ণ

ব্যবহারিক অবদান হল একটি হুমকি মডেলের জন্য একটি অডিট ট্রেইল যা বিচ্ছিন্ন পোস্ট থেকে বোঝা যায় না। এটি ডিফেন্ডারদের একটি সিন্থেটিক প্যাটার্নকে বাস্তব প্রভাবের প্রমাণ হিসাবে বিবেচনা করার আগে কীভাবে সমন্বয়, প্ল্যাটফর্মের দৃশ্যমানতা, এক্সপোজার এবং শ্রোতা পরিমাপ ইন্টারঅ্যাক্ট করে তা পরীক্ষা করার একটি উপায় দেয়।

জেনারেটিভ মডেলগুলি বার্তাগুলিকে সস্তা, সাবলীল এবং উপযোগী করে তুলতে পারে, কিন্তু শুধুমাত্র বার্তার পরিমাণই প্ররোচনা প্রতিষ্ঠা করে না। উৎস আস্থা, পুনরাবৃত্তি, সামাজিক প্রেক্ষাপট, পূর্বের বিশ্বাস, এবং পথ যার দ্বারা একজন ব্যক্তি একটি দাবির সম্মুখীন হয় সব বিষয়। আইও ফ্যাক্টরি সেই অনুমানগুলিকে জীবনচক্রের অংশ হিসাবে স্পষ্ট করে তোলে, তাই একজন গবেষক দেখতে পারেন যে ভাষা মডেলের প্রতিটি পার্থক্যকে দায়ী করার পরিবর্তে একটি সক্রিয় রান এবং একটি বেসলাইনের মধ্যে কোন পর্যায়ে পরিবর্তন হয়েছে।

সেই কাঠামোটি প্রতিরক্ষামূলক অনুশীলনকে উন্নত করতে পারে। একটি প্ল্যাটফর্ম, নির্বাচন মনিটর, জনস্বার্থ গোষ্ঠী, বা নিরাপত্তা দল সমন্বিত এজেন্টের সংখ্যা, তাদের কর্মের সময়, দৃশ্যমানতার নিয়ম, বা হস্তক্ষেপ বিন্দু পরিবর্তিত হতে পারে, তারপর ফলাফলের প্রমাণ রেকর্ডগুলি পরিদর্শন করতে পারে। মান একটি কাল্পনিক জনসংখ্যা থেকে একটি পূর্বাভাস নয়. কোন সংকেতগুলি পর্যবেক্ষণযোগ্য, কোন পরিমাপ অনুপস্থিত, এবং প্রস্তাবিত সনাক্তকরণ বা ঘর্ষণ প্রক্রিয়া কীভাবে প্রচারের পথকে প্রভাবিত করতে পারে তা জিজ্ঞাসা করার এটি একটি পুনরুত্পাদনযোগ্য স্থান।

ঘটনা বিশ্লেষণের জন্য কাগজের প্রমাণ থেকে ক্রিয়াকে পৃথক করা বিশেষভাবে কার্যকর। অনুরূপ বার্তাগুলির একটি ক্লাস্টার একটি উপসর্গ হতে পারে, তবে শক্তিশালী প্রমাণগুলি অ্যাকাউন্ট, ক্রিয়াকলাপ, প্রকাশের পথ এবং সময়ের সাথে সাথে অভিযোজনকে সংযুক্ত করবে। একটি নিয়ন্ত্রিত সিমুলেটর গবেষকদের সেই রেকর্ডগুলি ডিজাইন করতে এবং সনাক্তকরণ পদ্ধতিগুলির তুলনা করতে সহায়তা করতে পারে। এটিও প্রকাশ করতে পারে যখন একজন মূল্যায়নকারী শ্রোতাদের বিশ্বাসের পরিবর্তনের পরিবর্তে কার্যকলাপ বা মডেল-বিচারকের আস্থা পরিমাপ করছেন।

সীমানা দৃশ্যমান রাখার জন্য একটি জনস্বার্থ রক্ষার ব্যবস্থা রয়েছে। রিপোর্ট করা রাশিয়া, পোকা-সহায়তা, এবং প্রাতিষ্ঠানিক-বিশ্বাসের পরিস্থিতি হল পরীক্ষার জন্য বেছে নেওয়া কনফিগারযোগ্য নির্মাণ। এগুলি জরিপের ফলাফল, গোয়েন্দা তথ্য বা প্রমাণ নয় যে লোকেদের প্ররোচিত করা হয়েছিল। সিমুলেটর আউটপুটকে বাস্তব-বিশ্বের ঘটনা হিসাবে বিবেচনা করা একটি ভিন্ন ধরনের তথ্য ঝুঁকি তৈরি করবে: একটি দেশ, সম্প্রদায় বা নির্বাচন সম্পর্কে প্রমাণের জন্য একটি সিন্থেটিক প্রদর্শন ভুল হতে পারে।

পরবর্তী কি দেখতে

পরবর্তী প্রমাণগুলি সিমুলেটরটিকে নৈতিকভাবে সংগৃহীত পর্যবেক্ষণের সাথে সংযুক্ত করা উচিত, পরীক্ষা করা উচিত যে এর পরিমাপগুলি মডেল এবং প্ল্যাটফর্মের পরিবর্তনগুলি টিকে আছে কিনা এবং ডিফেন্ডাররা কীভাবে সিন্থেটিক আউটপুটকে অভিযোগে পরিণত না করে অডিট ট্রেল ব্যবহার করতে পারে তা দেখান।

স্বাধীন গবেষকদের বিভিন্ন ভাষার মডেল, অভিনেতা নীতি, জনসংখ্যা জেনারেটর এবং নেটওয়ার্ক কাঠামোর সাথে মিলে যাওয়া ডিজাইনগুলি পুনরুত্পাদন করা উচিত। বর্তমান কাগজটি তার রিপোর্ট করা রানের জন্য একটি মডেল কনফিগারেশন ব্যবহার করে এবং অনেক সিমুলেটর নিয়ম ঘোষণা করে। সংবেদনশীলতা বিশ্লেষণ দেখাতে হবে যে বার্তার গুণমান, উৎসের বিশ্বাসযোগ্যতা, এক্সপোজার থ্রেশহোল্ড এবং রিলে আচরণের পরিবর্তন হলে কোন উপসংহার টিকে থাকে, একটি একক প্যারামিটারাইজেশন অনলাইন জীবনকে প্রতিনিধিত্ব করে এমন অনুমান না করে।

বাস্তব পর্যবেক্ষণের বিরুদ্ধে ক্রমাঙ্কন কঠিন পদক্ষেপ। নৈতিক ক্ষেত্রের ডেটাতে জনসাধারণের, সম্মতিপ্রাপ্ত, বা গোপনীয়তা-সংরক্ষণের নাগাল এবং মিথস্ক্রিয়া ব্যবস্থা অন্তর্ভুক্ত থাকতে পারে, তবে সেই ডেটা স্বয়ংক্রিয়ভাবে বিশ্বাসের পরিবর্তন প্রকাশ করবে না। ভবিষ্যত কাজের প্ল্যাটফর্ম ইভেন্টগুলিকে বৈধ সামাজিক-বিজ্ঞানের ব্যবস্থার সাথে তুলনা করা উচিত, অনিশ্চয়তা প্রকাশ করা এবং সিমুলেটরটি কী পুনরুত্পাদন করতে পারে তা থেকে আলাদা করা উচিত যা এটি কেবল দৃশ্যত প্রশংসনীয় করে তোলে। মডেল-ভিত্তিক বিচারকদের অডিট করার জন্য পরিমাপ যন্ত্র হিসাবে থাকতে হবে, স্থল সত্যের বিকল্প নয়।

ডিফেন্ডারদের অভিযোজিত প্রচারাভিযান এবং প্রতিরক্ষামূলক হস্তক্ষেপও পরীক্ষা করা উচিত। কাগজটি পরিকল্পনা, এক্সপোজার, পরিমাপ এবং অভিযোজন বর্ণনা করে, তবুও একজন প্রকৃত প্রতিপক্ষ কি নিরীক্ষণ করা হয় তা শেখার পরে সময়, উত্স পরিচয়, ভাষা বা মিথস্ক্রিয়া শৈলী পরিবর্তন করতে পারে। সাধারণ ব্যবহারকারীদের উপর মিথ্যা ইতিবাচক এবং সমান্তরাল প্রভাব পরিমাপ করার সময় দরকারী মূল্যায়ন ঘর্ষণ, মূল লগিং, সমন্বিত-আচরণ সনাক্তকরণ এবং মানব পর্যালোচনার তুলনা করবে।

অবশেষে, দায়িত্বশীল ব্যবহারের জন্য কাঠামোর চারপাশে নিয়ন্ত্রণ প্রয়োজন। একটি রেড-টিম পরিবেশ পরিস্থিতিগুলিকে আবদ্ধ রাখতে হবে, প্রকৃত লোকেদের টার্গেট করা এড়াতে হবে, যেকোন লিঙ্কড ডেটা রক্ষা করতে হবে এবং কীভাবে সিন্থেটিক এজেন্ট এবং তৈরি সামগ্রীগুলি পাবলিক প্ল্যাটফর্ম থেকে আলাদা করা হয় তা নথিভুক্ত করা উচিত। বাইরের বৈধতা না আসা পর্যন্ত, IO ফ্যাক্টরিকে একটি স্বচ্ছ গবেষণা এবং হুমকি-মডেলিং যন্ত্র হিসাবে সবচেয়ে ভাল বোঝা যায়: অনুমান পরীক্ষা করার জন্য মূল্যবান, বাস্তব-বিশ্বের প্ররোচনা বা একটি বাস্তব ঘটনা দাবি করার জন্য অপর্যাপ্ত।

সম্পর্কিত গাইড এবং কুইজ