محققین نے 100,000 ایجنٹوں کے لیے AI اثر و رسوخ مہم سمیلیٹر بنایا

کیا ہوا؟

ایک نیا arXiv پیپر IO Factory پیش کرتا ہے، جو AI- فعال اثر و رسوخ کی مہمات کو ٹریس ایبل لائف سائیکل کے طور پر نقل کرنے کے لیے ایک تحقیقی فریم ورک ہے۔ یہ نظام مربوط ایجنٹ کی کارروائیوں کو نمائش کے ریکارڈ اور ترتیب شدہ سامعین کی تبدیلیوں سے جوڑتا ہے، جس سے محققین کو ایک کنٹرول شدہ پلیٹ فارم کے اندر مماثل بیس لائن کے ساتھ چلائی جانے والی ایک فعال مہم کا موازنہ کرنے کی اجازت ملتی ہے۔

یہ فریم ورک تین تہوں کو الگ کرتا ہے جو اکثر آن لائن ہیرا پھیری کے مباحثوں میں منہدم ہو جاتی ہیں: ایک کنٹرول طیارہ جو تجربہ کو شیڈول کرتا ہے، ایک نقلی طیارہ جہاں ایجنٹ پلیٹ فارم پر کام کرتے ہیں، اور ایک تشخیصی طیارہ جو نمائش اور ریاست کی تبدیلیوں کی پیمائش کرتا ہے۔ ایک پیغام کو اثر و رسوخ کے طور پر شمار نہیں کیا جاتا ہے کیونکہ یہ پیدا کیا گیا تھا۔ اسے رکھنا ضروری ہے، پلیٹ فارم کے اصولوں کے تحت نظر آنا، ایک ماڈل شہری تک پہنچنا، ترتیب شدہ پیمائش کے طریقہ کار کو پاس کرنا، اور پھر بیس لائن کے ساتھ موازنہ کیا جانا چاہیے۔

رپورٹ کردہ نفاذ Gemma 4 31B کو H200 نوڈس پر مصنوعی اداکاروں کے لیے استعمال کرتا ہے اور 100,000 شہریوں اور 10,000 اثر و رسوخ والے آپریٹرز کے ساتھ چلائے جانے والے توثیق کی حمایت کرتا ہے۔ کاغذ کے مماثل ثبوت 10,000 عام شہریوں اور 13 جوڑی والے بیس لائن ایکٹو نقل کے ساتھ چھوٹے ڈیزائنوں سے آتے ہیں۔ مصنفین نے روس میں بڑھتے ہوئے اعتماد اور کیڑوں کو کھانے کے لیے حمایت کو نشانہ بنانے والے دو ساختہ منظر نامے کی جانچ کی، نیز عوامی اداروں میں کم اعتماد کو نشانہ بنانے والے ایک الگ منظر نامے کا۔ یہ نقلی ترتیبات ہیں، حقیقی آبادی کے بارے میں مشاہدات نہیں۔

دو ساختہ ڈیزائن میں، کاغذ کھانے والے کیڑوں کے لیے 0.132 اور روس میں اعتماد کے لیے 0.130 کی دشاتمک لفٹ کی اطلاع دیتا ہے۔ سنگل کنسٹرکٹ ڈیزائن میں، 0.336 کی اطلاع شدہ سائن ایڈجسٹ لفٹ کے ساتھ بیس لائن کی نسبت عوامی اداروں پر اعتماد میں کمی آتی ہے۔ p <0.001 پر ہولم کی تصحیح کے بعد تینوں بنیادی اختتامی نکات اہم ہیں۔ ایک ہی ٹیبل ایکٹیو رن میں اعلی ماڈلڈ پولرائزیشن کی اطلاع دیتا ہے، بشمول سنگل کنسٹرکٹ ڈیزائن کے لیے 4.714 بمقابلہ 3.865، لیکن وہ قدریں سمیلیٹر کے پیمانے پر رہتی ہیں۔

مصنفین دونوں مرکزی ڈیزائنوں میں تقریباً 0.494 کے ایکٹو ریچ فریکشن کی بھی اطلاع دیتے ہیں، یعنی تقریباً آدھے ماڈل والے شہریوں کے پاس ایکسپوژر ریکارڈ تھا جس میں اثر و رسوخ کا ایک ذریعہ شامل تھا۔ شہری ریلے کی سرگرمی ترتیب شدہ پیمائش کے تحت کم تھی، خاص طور پر سنگل کنسٹرکٹ ڈیزائن میں۔ کاغذ بار بار تشریح کو محدود کرتا ہے: رنز سے پتہ چلتا ہے کہ IO فیکٹری اعلان کردہ مہم کے مفروضوں پر عملدرآمد اور پیمائش کر سکتی ہے، یہ نہیں کہ AI مہم ان اثرات کو حقیقی پلیٹ فارم یا آبادی پر حاصل کرے گی۔

ماخذ کی تفصیلات: IO Factory research paper on arXiv ↗

یہ کیوں اہمیت رکھتا ہے۔

عملی شراکت خطرے کے ماڈل کے لیے ایک آڈٹ ٹریل ہے جسے الگ تھلگ پوسٹوں سے نہیں سمجھا جا سکتا۔ یہ محافظوں کو یہ جانچنے کا ایک طریقہ فراہم کرتا ہے کہ حقیقی اثر و رسوخ کے ثبوت کے طور پر مصنوعی پیٹرن کا علاج کرنے سے پہلے ہم آہنگی، پلیٹ فارم کی مرئیت، نمائش، اور سامعین کی پیمائش کیسے تعامل کرتی ہے۔

تخلیقی ماڈل پیغامات کو سستا، روانی اور موزوں بنا سکتے ہیں، لیکن پیغام کا حجم اکیلے قائل نہیں کرتا ہے۔ ماخذ اعتماد، تکرار، سماجی سیاق و سباق، سابقہ ​​عقائد، اور وہ راستہ جس سے کوئی شخص دعویٰ کا سامنا کرتا ہے تمام معاملات۔ IO فیکٹری ان مفروضوں کو لائف سائیکل کے حصوں کے طور پر واضح کرتی ہے، لہذا ایک محقق یہ دیکھ سکتا ہے کہ زبان کے ماڈل سے ہر فرق کو منسوب کرنے کے بجائے ایک فعال رن اور بیس لائن کے درمیان کون سا مرحلہ تبدیل ہوا ہے۔

یہ ڈھانچہ دفاعی مشقوں کو بہتر بنا سکتا ہے۔ ایک پلیٹ فارم، انتخابی مانیٹر، مفاد عامہ کا گروپ، یا سیکیورٹی ٹیم مربوط ایجنٹوں کی تعداد، ان کے کاموں کے وقت، مرئیت کے قواعد، یا مداخلت کے نقطہ میں فرق کر سکتی ہے، پھر نتیجے میں پیدا ہونے والے ریکارڈ کا معائنہ کر سکتی ہے۔ قدر ایک خیالی آبادی سے پیش گوئی نہیں ہے۔ یہ پوچھنے کے لیے ایک قابل تولید جگہ ہے کہ کون سے سگنل قابل مشاہدہ ہیں، کون سی پیمائش غائب ہے، اور مجوزہ پتہ لگانے یا رگڑ کا طریقہ کار مہم کے راستے کو کیسے متاثر کر سکتا ہے۔

کاغذ کی کارروائی کو ثبوت سے الگ کرنا خاص طور پر واقعے کے تجزیہ کے لیے مفید ہے۔ ملتے جلتے پیغامات کا ایک جھرمٹ ایک علامت ہو سکتا ہے، لیکن مضبوط ثبوت اکاؤنٹس، اعمال، نمائش کے راستے، اور وقت کے ساتھ موافقت کو جوڑ دے گا۔ ایک کنٹرول شدہ سمیلیٹر محققین کو ان ریکارڈوں کو ڈیزائن کرنے اور پتہ لگانے کے طریقوں کا موازنہ کرنے میں مدد کر سکتا ہے۔ یہ اس وقت بھی بے نقاب ہو سکتا ہے جب ایک جائزہ کار سامعین کے عقائد میں تبدیلی کی بجائے سرگرمی یا ماڈل جج کے اعتماد کی پیمائش کر رہا ہو۔

باؤنڈری کو مرئی رکھنے میں مفاد عامہ کا تحفظ ہے۔ رپورٹ کردہ روس، کیڑے کی مدد، اور ادارہ جاتی اعتماد کے منظرنامے تجربے کے لیے منتخب کردہ قابل ترتیب تعمیرات ہیں۔ وہ سروے کے نتائج، انٹیلی جنس نتائج، یا اس بات کا ثبوت نہیں ہیں کہ لوگوں کو قائل کیا گیا تھا۔ سمیلیٹر آؤٹ پٹ کو حقیقی دنیا کے واقعے کے طور پر پیش کرنا ایک مختلف قسم کی معلومات کا خطرہ پیدا کرے گا: ایک مصنوعی مظاہرے کو کسی ملک، کمیونٹی یا انتخابات کے بارے میں ثبوت کے لیے غلط کیا جا سکتا ہے۔

آگے کیا دیکھنا ہے۔

اگلے شواہد کو سمیلیٹر کو اخلاقی طور پر اکٹھے کیے گئے مشاہدات سے جوڑنا چاہیے، یہ جانچنا چاہیے کہ آیا اس کی پیمائش ماڈل اور پلیٹ فارم کی تبدیلیوں کو زندہ رکھتی ہے، اور یہ دکھانا چاہیے کہ محافظ کس طرح مصنوعی نتائج کو الزامات میں بدلے بغیر آڈٹ ٹریل کا استعمال کر سکتے ہیں۔

آزاد محققین کو مختلف زبان کے ماڈلز، اداکار پالیسیوں، آبادی پیدا کرنے والوں، اور نیٹ ورک کے ڈھانچے کے ساتھ مماثل ڈیزائن کو دوبارہ تیار کرنا چاہیے۔ موجودہ کاغذ اپنے رپورٹ کردہ رنز کے لیے ایک ماڈل کنفیگریشن کا استعمال کرتا ہے اور بہت سے سمیلیٹر قوانین کا اعلان کرتا ہے۔ حساسیت کے تجزیے سے یہ ظاہر کرنا چاہیے کہ جب پیغام کا معیار، ماخذ کی ساکھ، نمائش کی حدیں، اور ریلے رویے میں تبدیلی آتی ہے تو کون سے نتائج برقرار رہتے ہیں، بجائے اس کے کہ یہ مان لیا جائے کہ ایک پیرامیٹرائزیشن آن لائن زندگی کی نمائندگی کرتی ہے۔

حقیقی مشاہدات کے خلاف انشانکن مشکل مرحلہ ہے۔ اخلاقی فیلڈ ڈیٹا میں رسائی اور تعامل کے عوامی، رضامندی، یا رازداری کے تحفظ کے اقدامات شامل ہو سکتے ہیں، لیکن یہ ڈیٹا خود بخود یقین کی تبدیلی کو ظاہر نہیں کرے گا۔ مستقبل کے کام میں پلیٹ فارم کے واقعات کا موازنہ سماجی سائنس کے توثیق شدہ اقدامات کے ساتھ کرنا چاہیے، غیر یقینی صورتحال کو ظاہر کرنا چاہیے، اور یہ تمیز کرنا چاہیے کہ سمیلیٹر اس چیز سے کیا دوبارہ پیدا کر سکتا ہے جسے یہ محض بصری طور پر قابل فہم بناتا ہے۔ ماڈل پر مبنی ججوں کو آڈٹ کے لیے پیمائشی آلات ہی رہنا چاہیے، زمینی سچائی کا متبادل نہیں۔

محافظوں کو انکولی مہمات اور دفاعی مداخلتوں کی بھی جانچ کرنی چاہیے۔ کاغذ منصوبہ بندی، نمائش، پیمائش، اور موافقت کی وضاحت کرتا ہے، پھر بھی ایک حقیقی مخالف وقت، ماخذ کی شناخت، زبان، یا بات چیت کے انداز کو سیکھنے کے بعد تبدیل کر سکتا ہے۔ مفید تشخیصات رگڑ، پرووینس لاگنگ، مربوط رویے کا پتہ لگانے، اور انسانی جائزے کا موازنہ کریں گے جبکہ عام صارفین پر غلط مثبت اور باہمی اثرات کی پیمائش کریں گے۔

آخر میں، ذمہ دارانہ استعمال کے لیے خود فریم ورک کے ارد گرد کنٹرول کی ضرورت ہوتی ہے۔ ریڈ ٹیم کے ماحول کو منظرناموں کو پابند رکھنا چاہیے، حقیقی لوگوں کو نشانہ بنانے سے گریز کرنا چاہیے، کسی بھی منسلک ڈیٹا کی حفاظت کرنا چاہیے، اور دستاویز کرنا چاہیے کہ کس طرح مصنوعی ایجنٹوں اور تیار کردہ مواد کو عوامی پلیٹ فارم سے الگ کیا جاتا ہے۔ جب تک کہ باہر کی توثیق نہ آجائے، IO فیکٹری کو ایک شفاف تحقیق اور خطرے سے متعلق ماڈلنگ کے آلے کے طور پر سب سے بہتر سمجھا جاتا ہے: مفروضوں کی جانچ کے لیے قیمتی، حقیقی دنیا کے قائل یا کسی حقیقی واقعے کا دعویٰ کرنے کے لیے ناکافی۔

متعلقہ گائیڈز اور کوئزز