يقوم الباحثون ببناء محاكي حملة التأثير بالذكاء الاصطناعي لـ 100000 وكيل

ماذا حدث

تقدم ورقة arXiv الجديدة IO Factory، وهو إطار بحثي لمحاكاة حملات التأثير المدعومة بالذكاء الاصطناعي باعتبارها دورات حياة يمكن تتبعها. ويربط النظام إجراءات الوكيل المنسقة بسجلات التعرض وتغييرات الجمهور التي تم تكوينها، مما يسمح للباحثين بمقارنة حملة نشطة يتم تشغيلها بخط أساس مطابق داخل منصة يتم التحكم فيها.

يفصل إطار العمل بين ثلاث طبقات غالبًا ما يتم طيها في مناقشات التلاعب عبر الإنترنت: مستوى التحكم الذي يقوم بجدولة التجربة، ومستوى المحاكاة حيث يعمل الوكلاء على منصة، ومستوى التقييم الذي يقيس التعرض وتغيرات الحالة. لا تعتبر الرسالة تأثيرًا لمجرد إنشائها. يجب أن يتم وضعها، وتصبح مرئية بموجب قواعد المنصة، والوصول إلى نموذج مدني، واجتياز إجراء القياس الذي تم تكوينه، ثم مقارنتها بخط الأساس.

يستخدم التنفيذ المُبلغ عنه Gemma 4 31B على عقد H200 للجهات الفاعلة المحاكية ويدعم عملية التحقق من الصحة مع 100000 مدني و10000 من مشغلي عمليات التأثير. تأتي الأدلة المطابقة للورقة من تصميمات أصغر تضم 10000 مدني و13 نسخة متماثلة نشطة من خط الأساس المزدوج. يختبر المؤلفون سيناريو ثنائي يستهدف زيادة الثقة في روسيا ودعم أكل الحشرات، بالإضافة إلى سيناريو منفصل يستهدف ثقة أقل في المؤسسات العامة؛ هذه إعدادات محاكاة، وليست ملاحظات حول مجموعات سكانية حقيقية.

في التصميم ثنائي البناء، تشير الورقة إلى ارتفاع الاتجاه بمقدار 0.132 لدعم أكل الحشرات و0.130 للثقة في روسيا. في التصميم أحادي البناء، تنخفض الثقة في المؤسسات العامة مقارنة بخط الأساس مع ارتفاع تم تعديله حسب الإشارة قدره 0.336. جميع نقاط النهاية الأولية الثلاثة مهمة بعد تصحيح هولم عند p<0.001. يوضح الجدول نفسه استقطابًا نموذجيًا أعلى في عمليات التشغيل النشطة، بما في ذلك 4.714 مقابل 3.865 للتصميم أحادي البناء، ولكن تظل هذه القيم على مقياس جهاز المحاكاة.

أبلغ المؤلفون أيضًا عن نسبة وصول نشطة تبلغ حوالي 0.494 في كلا التصميمين الرئيسيين، مما يعني أن ما يقرب من نصف المدنيين النموذجيين لديهم سجل تعرض يشتمل على مصدر تشغيل التأثير. كان نشاط الترحيل المدني منخفضًا في ظل المقياس الذي تم تكوينه، خاصة في التصميم أحادي البناء. تقيد الورقة التفسير بشكل متكرر: تظهر عمليات التشغيل أن IO Factory يمكنها تنفيذ وقياس افتراضات الحملة المعلنة، وليس أن حملة الذكاء الاصطناعي ستحقق تلك التأثيرات على منصة حقيقية أو مجتمع حقيقي.

تفاصيل المصدر: IO Factory research paper on arXiv ↗

لماذا يهم

المساهمة العملية عبارة عن مسار تدقيق لنموذج التهديد الذي لا يمكن فهمه من المشاركات المعزولة. فهو يمنح المدافعين طريقة لاختبار كيفية تفاعل التنسيق ورؤية المنصة والتعرض وقياس الجمهور قبل التعامل مع النمط الاصطناعي كدليل على التأثير الحقيقي.

يمكن للنماذج التوليدية أن تجعل الرسائل رخيصة، وسلسة، ومخصصة، ولكن حجم الرسالة وحده لا يؤدي إلى الإقناع. ثقة المصدر، والتكرار، والسياق الاجتماعي، والمعتقدات السابقة، والمسار الذي يواجه الشخص مطالبة ما، كلها أمور مهمة. يجعل مصنع IO هذه الافتراضات واضحة كأجزاء من دورة الحياة، بحيث يمكن للباحث معرفة المرحلة التي تغيرت بين التشغيل النشط وخط الأساس بدلاً من إسناد كل اختلاف إلى نموذج اللغة.

هذا الهيكل يمكن أن يحسن التدريبات الدفاعية. يمكن للمنصة، أو مراقب الانتخابات، أو مجموعة المصلحة العامة، أو الفريق الأمني ​​أن يغير عدد الوكلاء المنسقين، أو توقيت أفعالهم، أو قواعد الرؤية، أو نقطة التدخل، ثم فحص سجلات المصدر الناتجة. القيمة ليست توقعات من مجموعة سكانية خيالية. إنه مكان قابل للتكرار للسؤال عن الإشارات التي يمكن ملاحظتها، وما هي القياسات المفقودة، وكيف يمكن لآلية الكشف أو الاحتكاك المقترحة أن تؤثر على مسار الحملة.

يعد فصل العمل عن الأدلة مفيدًا بشكل خاص لتحليل الحوادث. قد تكون مجموعة من الرسائل المتشابهة أحد الأعراض، لكن الأدلة الأقوى من شأنها أن تربط بين الحسابات، والإجراءات، ومسارات التعرض، والتكيف مع مرور الوقت. يمكن للمحاكاة الخاضعة للرقابة أن تساعد الباحثين في تصميم تلك السجلات ومقارنة طرق الكشف. وقد يكشف أيضًا متى يقوم المُقيّم بقياس النشاط أو ثقة القاضي النموذجي بدلاً من التغيير في معتقدات الجمهور.

هناك ضمانة للمصلحة العامة في إبقاء الحدود مرئية. إن سيناريوهات روسيا، ودعم الحشرات، والثقة المؤسسية التي تم الإبلاغ عنها هي هياكل قابلة للتكوين تم اختيارها للتجربة. إنها ليست نتائج مسح أو نتائج استخباراتية أو دليلاً على اقتناع الناس. إن التعامل مع مخرجات المحاكاة باعتبارها حادثة في العالم الحقيقي من شأنه أن يخلق نوعًا مختلفًا من مخاطر المعلومات: فقد يتم الخلط بين العرض التوضيحي الاصطناعي وبين دليل حول بلد ما، أو مجتمع ما، أو انتخابات ما.

ماذا تشاهد بعد ذلك

وينبغي للأدلة التالية أن تربط جهاز المحاكاة بالملاحظات التي تم جمعها بطريقة أخلاقية، واختبار ما إذا كانت قياساته ستصمد أمام تغييرات النموذج والمنصة، وإظهار كيف يمكن للمدافعين استخدام مسار التدقيق دون تحويل النتائج الاصطناعية إلى اتهامات.

يجب على الباحثين المستقلين إعادة إنتاج التصاميم المتطابقة باستخدام نماذج لغوية مختلفة، وسياسات الجهات الفاعلة، ومولدات السكان، وهياكل الشبكات. تستخدم الورقة الحالية تكوين نموذج واحد لعمليات التشغيل المُبلغ عنها وتعلن عن العديد من قواعد المحاكاة. يجب أن يُظهر تحليل الحساسية الاستنتاجات التي تستمر عندما تتغير جودة الرسالة، ومصداقية المصدر، وعتبات التعرض، وسلوك الترحيل، بدلاً من افتراض أن معلمة واحدة تمثل الحياة عبر الإنترنت.

إن المعايرة مقابل الملاحظات الحقيقية هي الخطوة الأصعب. يمكن أن تتضمن البيانات الميدانية الأخلاقية مقاييس الوصول والتفاعل العامة أو المعتمدة أو التي تحافظ على الخصوصية، لكن هذه البيانات لن تكشف تلقائيًا عن تغيير المعتقدات. وينبغي للعمل المستقبلي أن يقارن أحداث المنصة بمقاييس العلوم الاجتماعية المصادق عليها، ويكشف عن عدم اليقين، ويميز بين ما يمكن لجهاز المحاكاة إعادة إنتاجه وبين ما يجعله معقولاً بصرياً. يجب أن يظل القضاة المعتمدون على النماذج أدوات قياس للتدقيق، وليسوا بدائل للحقيقة الأرضية.

يجب على المدافعين أيضًا اختبار الحملات التكيفية والتدخلات الدفاعية. تصف الورقة التخطيط والتعرض والقياس والتكيف، ومع ذلك يمكن للخصم الحقيقي أن يغير التوقيت أو هوية المصدر أو اللغة أو أسلوب التفاعل بعد معرفة ما يتم مراقبته. يمكن للتقييمات المفيدة مقارنة الاحتكاك، وتسجيل المصدر، والكشف عن السلوك المنسق، والمراجعة البشرية أثناء قياس الإيجابيات الكاذبة والتأثيرات الجانبية على المستخدمين العاديين.

وأخيرًا، يتطلب الاستخدام المسؤول ضوابط حول الإطار نفسه. يجب أن تحافظ بيئة الفريق الأحمر على حدود السيناريوهات، وتتجنب استهداف الأشخاص الحقيقيين، وتحمي أي بيانات مرتبطة، وتوثق كيفية فصل العوامل الاصطناعية والمحتوى المُنشأ عن المنصات العامة. وإلى أن يتم التحقق من صحتها من الخارج، من الأفضل فهم مصنع IO باعتباره أداة شفافة للبحث ونمذجة التهديدات: وهي ذات قيمة لاختبار الافتراضات، ولكنها غير كافية لادعاء الإقناع في العالم الحقيقي أو وقوع حادث فعلي.

الأدلة والاختبارات ذات الصلة