Watafiti Huunda Kiigaji cha Kampeni ya Ushawishi ya AI kwa Mawakala 100,000

Nini kilitokea

Karatasi mpya ya arXiv inawasilisha Kiwanda cha IO, mfumo wa utafiti wa kuiga kampeni za ushawishi zinazowezeshwa na AI kama mizunguko ya maisha inayoweza kufuatiliwa. Mfumo huu huunganisha vitendo vya wakala vilivyoratibiwa kwa rekodi za kufichua na mabadiliko ya hadhira yaliyosanidiwa, kuruhusu watafiti kulinganisha kampeni inayoendeshwa na msingi unaolingana ndani ya jukwaa linalodhibitiwa.

Mfumo huu hutenganisha tabaka tatu ambazo mara nyingi huporomoka katika majadiliano ya upotoshaji mtandaoni: ndege ya udhibiti inayoratibu jaribio, ndege ya kuiga ambapo mawakala hufanya kazi kwenye jukwaa, na ndege ya kutathmini ambayo hupima mfiduo na mabadiliko ya hali. Ujumbe hauhesabiwi kama ushawishi kwa sababu tu ulitolewa. Ni lazima iwekwe, ionekane chini ya sheria za jukwaa, ifikie raia wa kuigwa, ipitishe utaratibu wa kipimo uliosanidiwa, na kisha ilinganishwe na msingi.

Utekelezaji ulioripotiwa unatumia Gemma 4 31B kwenye nodi za H200 kwa waigizaji walioiga na kuauni uthibitisho unaoendeshwa na raia 100,000 na waendeshaji 10,000 wa ushawishi. Ushahidi unaolingana wa karatasi unatoka kwa miundo midogo yenye raia 10,000 na nakala 13 zilizooanishwa za msingi-amilifu. Waandishi hujaribu hali ya miundo miwili inayolenga kuongezeka kwa imani nchini Urusi na usaidizi wa kula wadudu, pamoja na hali tofauti inayolenga imani ndogo katika taasisi za umma; hii ni mipangilio ya uigaji, sio uchunguzi kuhusu idadi ya watu halisi.

Katika muundo wa miundo miwili, karatasi inaripoti kuinua kwa mwelekeo wa 0.132 kwa usaidizi wa kula wadudu na 0.130 kwa uaminifu nchini Urusi. Katika muundo wa muundo mmoja, imani katika taasisi za umma hupungua ikilinganishwa na msingi na kiinua mgongo kilichoripotiwa cha 0.336. Ncha zote tatu za msingi ni muhimu baada ya marekebisho ya Holm katika p<0.001. Jedwali lile lile linaripoti utofautishaji wa muundo wa hali ya juu katika utendakazi amilifu, ikijumuisha 4.714 dhidi ya 3.865 kwa muundo wa muundo mmoja, lakini thamani hizo husalia kwenye kipimo cha kiigaji.

Waandishi pia wanaripoti sehemu inayofikiwa ya takriban 0.494 katika miundo yote miwili, ikimaanisha kuwa takriban nusu ya raia walioigwa walikuwa na rekodi ya kufichuliwa inayohusisha chanzo cha ushawishi. Shughuli ya upeanaji wa kiraia ilikuwa chini chini ya kipimo kilichosanidiwa, hasa katika muundo wa muundo mmoja. Karatasi hiyo inapunguza tafsiri mara kwa mara: matokeo yanaonyesha kuwa Kiwanda cha IO kinaweza kutekeleza na kupima mawazo ya kampeni yaliyotangazwa, si kwamba kampeni ya AI ingefanikisha athari hizo kwenye jukwaa au idadi ya watu halisi.

Maelezo ya chanzo: IO Factory research paper on arXiv ↗

Kwa nini ni muhimu

Mchango wa kiutendaji ni njia ya ukaguzi kwa modeli ya tishio ambayo haiwezi kueleweka kutoka kwa machapisho yaliyotengwa. Huwapa watetezi njia ya kujaribu jinsi uratibu, mwonekano wa jukwaa, udhihirisho, na kipimo cha hadhira huingiliana kabla ya kutibu muundo wa sanisi kama ushahidi wa ushawishi halisi.

Mitindo ya kuzalisha inaweza kufanya ujumbe kuwa nafuu, ufasaha, na ulengwa, lakini sauti ya ujumbe pekee haileti ushawishi. Chanzo cha uaminifu, marudio, muktadha wa kijamii, imani za awali, na njia ambayo mtu hukutana na madai yote ni muhimu. Kiwanda cha IO hufanya mawazo hayo kuwa wazi kama sehemu za mzunguko wa maisha, kwa hivyo mtafiti anaweza kuona ni hatua gani iliyobadilika kati ya kukimbia amilifu na msingi badala ya kuhusisha kila tofauti kwa modeli ya lugha.

Muundo huo unaweza kuboresha mazoezi ya kujihami. Jukwaa, mfuatiliaji wa uchaguzi, kikundi cha maslahi ya umma au timu ya usalama inaweza kubadilisha idadi ya mawakala walioratibiwa, muda wa vitendo vyao, sheria za mwonekano au mahali pa kuingilia kati, kisha kukagua rekodi za asili zinazotokana. Thamani si utabiri kutoka kwa idadi ya watu wa kubuni. Ni mahali panapoweza kuzaliana kuuliza ni mawimbi yapi yanaweza kuonekana, vipimo vipi havipo, na jinsi mbinu inayopendekezwa ya kugundua au msuguano inaweza kuathiri njia ya kampeni.

Mgawanyo wa karatasi wa hatua kutoka kwa ushahidi ni muhimu sana kwa uchanganuzi wa tukio. Kundi la ujumbe sawia linaweza kuwa dalili, lakini ushahidi thabiti utaunganisha akaunti, vitendo, njia za kukaribia aliyeambukizwa na urekebishaji kwa wakati. Kiigaji kinachodhibitiwa kinaweza kuwasaidia watafiti kubuni rekodi hizo na kulinganisha mbinu za utambuzi. Inaweza pia kufichua wakati mtathmini anapopima shughuli au imani ya mwamuzi wa mfano badala ya mabadiliko katika imani ya hadhira.

Kuna ulinzi wa maslahi ya umma katika kuweka mpaka uonekane. Urusi iliyoripotiwa, hali ya usaidizi wa wadudu, na hali ya uaminifu wa kitaasisi ni miundo inayoweza kusanidi iliyochaguliwa kwa ajili ya majaribio. Sio matokeo ya uchunguzi, matokeo ya kijasusi, au uthibitisho kwamba watu walishawishiwa. Kuchukulia matokeo ya kiigaji kama tukio la ulimwengu halisi kunaweza kuunda aina tofauti ya hatari ya habari: onyesho la kisanii linaweza kuchukuliwa kimakosa kuwa ushahidi kuhusu nchi, jumuiya au uchaguzi.

Nini cha kutazama baadaye

Ushahidi unaofuata unapaswa kuunganisha kiigaji na uchunguzi uliokusanywa kimaadili, kupima kama vipimo vyake hudumu mabadiliko ya muundo na jukwaa, na kuonyesha jinsi watetezi wanaweza kutumia mbinu ya ukaguzi bila kubadilisha matokeo ya sanisi kuwa shutuma.

Watafiti huru wanapaswa kuzalisha miundo inayolingana na miundo tofauti ya lugha, sera za waigizaji, jenereta za idadi ya watu na miundo ya mtandao. Karatasi ya sasa hutumia usanidi wa modeli moja kwa utendakazi wake ulioripotiwa na inatangaza sheria nyingi za kiigaji. Uchanganuzi wa unyeti unapaswa kuonyesha ni hitimisho gani hudumu wakati ubora wa ujumbe, uaminifu wa chanzo, vizingiti vya kukaribia aliyeambukizwa, na mabadiliko ya tabia ya relay, badala ya kudhani kuwa uwekaji vigezo moja unawakilisha maisha ya mtandaoni.

Kurekebisha dhidi ya uchunguzi halisi ni hatua ngumu zaidi. Data ya uga wa maadili inaweza kujumuisha hatua za umma, zilizokubaliwa, au za kuhifadhi faragha za kufikia na kuingiliana, lakini data hiyo haitaonyesha mabadiliko ya imani kiotomatiki. Kazi ya siku zijazo inapaswa kulinganisha matukio ya jukwaa na hatua zilizoidhinishwa za sayansi-jamii, kufichua kutokuwa na uhakika, na kutofautisha ni nini kiigaji kinaweza kutoa tena na kile kinachofanya ionekane kuwa sahihi. Waamuzi wa kielelezo wanapaswa kubaki kuwa vyombo vya kupimia vya kukagua, si kuchukua nafasi ya ukweli wa msingi.

Watetezi wanapaswa pia kujaribu kampeni zinazobadilika na uingiliaji kati wa ulinzi. Karatasi inaelezea upangaji, udhihirisho, kipimo, na urekebishaji, lakini adui halisi anaweza kubadilisha wakati, utambulisho wa chanzo, lugha, au mtindo wa mwingiliano baada ya kujifunza kile kinachofuatiliwa. Tathmini zinazofaa zingelinganisha msuguano, ukataji miti wa asili, utambuzi wa tabia iliyoratibiwa, na ukaguzi wa kibinadamu huku ikipima chanya za uwongo na athari za dhamana kwa watumiaji wa kawaida.

Hatimaye, matumizi ya kuwajibika yanahitaji udhibiti karibu na mfumo yenyewe. Mazingira ya timu nyekundu yanapaswa kuweka mipaka, kuepuka kulenga watu halisi, kulinda data yoyote iliyounganishwa, na kuandika jinsi mawakala wa sanisi na maudhui yanayozalishwa yanavyotenganishwa na mifumo ya umma. Hadi uthibitisho wa nje ufike, Kiwanda cha IO kinaeleweka vyema kama chombo cha uwazi cha utafiti na kielelezo cha vitisho: muhimu kwa ajili ya majaribio ya dhana, haitoshi kudai ushawishi wa ulimwengu halisi au tukio halisi.

Miongozo & maswali yanayohusiana