Lu xew
Benn këyit bu bees bu arXiv dafay wane IO Factory, benn kaadaru gëstu ngir nuru ay kàmpaañu influens yu IA mëna topp ni ay siklu dundu yuñ mëna topp. Sistem bi dafay boole jëfi ndawu liggéey yiñ boole ak dokimaa exposition yi ak coppite yiñ defar ci audience bi, loolu mooy tax gëstukat yi mëna méngale ab kàmpaañ buy dox ak ab baseline bu méngoo ci biir benn platform buñu saytu.
Kadar bi dafay tàqale ñatti dayo yuy faral di dajaloo ci waxtaan yi ci jaay xel ci net bi: ab planu kontrôle buy waajal jàngat bi, ab planu simulation fu agent yi di doxalee ci kaw benn platform, ak ab planu evaluation buy natt exposition ak coppite yi ci etaa bi. Duñu jàppee mesaas ni influens ndax dañu ko defar rek. Dañu ko wara def, mu feeñ ci suufu sàrti platform bi, dem ba ci siwil buñ modele, jàll ci doxalinu natt biñ defar, ba noppi ñu méngale ko ak liiñ bu njëkk.
Dogal biñu xamle dafay jëfandikoo Gemma 4 31B ci kaw node H200 ngir aktër yiñ simulee, ba noppi jàppale ab doxalinu validasioŋ ak 100,000 siwil ak 10,000 operatëri operaasioŋ yu am doole. Firnde yi méngoo ak këyit bi ñu ngi bawoo ci jëmmal yu gëna ndaw ak 10,000 siwil ak 13 ñaari yoon yu ñuy jëfandikoo. Auteur yi dañu natt ñaari senaario yu jëm ci yokk wóolu Risi ak jàppale lekk gunóor, boole ci senaario bu wuute buy xool ngir wàññi wóolu institision publik yi; lii ay jekkal simulation la, du ay seetlu ci askan wi dëgg.
Ci ñaari-konstruksioŋ jëmmal, këyit bi dafa xamle jëmmal 0.132 ngir jàppale lekk gunóor ak 0.130 ngir wóolu Riisi. Ci jëmmal benn tabax, wóolu institision publik yi dafay wàññeeku buñu ko méngale ak baseline bi, ñu xamle ni dafay yokk 0.336. Ñatti poñ yi njëkk yépp dañu am solo ginaaw bi Holm jubbanti ci p <0.001. Benn tablo bi dafay wane polarisasioŋ modele bu gëna rëy ci daw yi am, boole ci 4.714 ak 3.865 ngir jëmmal benn-taax, waaye valeur yooyu ñu ngi des ci eskaalu simulatër bi.
Auteur yi dañu wax itam ni amna fraction buy yegg ba 0.494 ci ñaari design yu mag yi, loolu dafay tekki ni lu tollu ci genn-wàll ci siwil yi ñu modele amnañu ay exposition yu lalu ci ab source operation bu am doole. Liggéeyu relay siwil yi daa wàññeeku ci nattukaay biñ tëral, rawatina ci jëmmal benn tabax. Këyit bi dafay baamtu tekki bi: daw yi dañu wane ni IO Factory mën na def ak natt xalaati kampaañ yiñ wax, du ni kampaañu IA dina mëna def loolu ci platform wala askan dëgg.
Ay leeral ci cosaan: IO Factory research paper on arXiv ↗
Lu tax mu am solo
Li am solo ci liggéey bi mooy ab yoon buy saytu ab xeetu fitna buñu mënatul xam ci ay post yu wuute. Dafay may defenseur yi ñu mëna natt naka la koordinaasioŋ, gis-gis platform, exposition, ak natt audience di doxalee balaa ñuy jël benn motif synthetik muy firndeg influens dëgg.
Modèle generatif yi mën nañu tax mesaas yi yomb, neex, te méngoo ak bëgg-bëggu mesaas bi, waaye bariwaayu mesaas bi kese mënul yay nit. Wolof ci balluwaay, baamtu, jamonoy askan, gëm-gëm bu njëkk, ak yoon wi nit di jaar ngir daje ak laaj, lépp lu am solo la. IO Factory dafay leerloo xalaat yooyu ni dañu bokk ci li ñuy woowe dundu, suko defee gëstukat bi mëna gis ban etap la soppiku ci diggante daw bu am solo ak liiñ bu njëkk, moo gën ñu jox bépp wuute ci xeetu làkk wi.
Jariñ googu mën na yokk tàggat yaram. Benn platform, monitëru eleksioŋ, kuréel gu am njariñu mbooloo, wala ekipu kaaraange mën nañu soppi limu ndawu liggéey yiñ boole, waxtu seen jëf, sàrti gis-gis, wala barabu intervention, ba noppi xool dokimaa yu bawoo. Valeur bi bokkul ak li ñuy seentu ci askan wiñ xalaat rek. Barab la buñu mëna joxewaat ngir laaj ban siñaal lañu mëna seetlu, ban natt lañu ñàkk, ak naka la gis-gis bi ñu nara def wala jumtukaayu friksioŋ mëna amee ci yoonu kàmpaañ bi.
Li këyit bi tàqale ci jëf ak firnde lu am solo la, rawatina ci jàngat insidan yi. Ay mesaas yu bari yu nuru mën nañu nekk màndarga, waaye firnde yu gëna am doole ñooy lëkkale kontu yi, jëf yi, yooni fësal, ak ànd ak jamono. Simulatër buñuy saytu mën na jàppale gëstukat yi ñu defar dokimaa yooyu ba noppi méngale pexe yi ñuy gis. Mën na fësal itam sudee jàngat bi dafay natt liggéey bi wala model-àttekat bi wóolu boppam moo gën coppite ci ngëmu way teewlu yi.
Amna luy amal njariñu askan wi ngir ñu mëna gis ay fronceer. Risi biñ wax, ndimbalu gunóor yi, ak senaario wóolu mbootaay yi, ñooy tabax yuñ mëna tànn ngir jàngat bi. Duñu ay resultaa ci laaj ak tontu, wala ay firnde ni dañu gëmloo nit ñi. Jàppee génnug simulatër bi ni mbir mu am ci àdduna dëgg dina jur beneen xeetu risku xibaar: mën nañu juum ci njubluwaay buñ defaree firnde buy wax ci benn réew, askan, wala eleksioŋ.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
crm_get_transaction(id='4092').What is 'specification gaming' in AI systems?
Li nga wara seetaan ci topp
Firnde yi ci topp dañu wara boole simulatër bi ak seetlu yiñ dajale ci anam wu jaar yoon, natt ndax natt yi mën nañu mucc ci coppite model ak platform, ba noppi wane ni defendre yi mëna jëfandikoo yoon wi ñuy saytu te duñu soppi génnug synthetik yi ci tuuma.
Gëstukat yi moom seen bopp war nañu defar jëmmal ak xeeti làkk yu wuute, politik aktër, generatëri askan, ak jumtukaayi reso. Këyit bii fi nekk dafay jëfandikoo benn model configuration ngir ay runs yuñ rapoorte, ba noppi di fësal ay sàrti simulatër yu bari. Càmbaru sensitivite dafa wara wane ban conclusion mooy wéy sudee kalite mesaas bi, gëm-gëmu balluwaay bi, exposition bi, ak coppite ci doxalinu relay, moo gën ñuy xalaat ni benn parametrisation mooy dundu ci net bi.
Etalonage ci seetlu dëgg mooy jéego bi gëna tar. Done yiñ tëral ci wàllu ethique mën nañu nekk matuwaayi yegg ak jaxasoo yu ñépp bokk, yuñ nangu, wala yuñ mëna sàmm seen bopp, waaye done yooyu duñu wane ci saasi coppite ci gëm-gëm. Liggéey bi ci kanam war na méngale xew-xew yi am ci platform bi ak matuwaayi science social yuñ gëm, fësal lu wóorul, ba noppi wuutale li simulatër bi mëna génne ak li muy wane rek. Attekat yi lalu ci misaal dañu wara nekk jumtukaayi natt ngir saytu, te baña wecci dëgg gi am ci suuf.
Defenseur yi war nañu natt ay kàmpaañ ngir mëna ànd ak ay defenseur. Këyit dafay wax ci waajal, fësal, natt, ak ànd, waaye noon dëgg mën na soppi waxtu, dàntite source, làkk, wala xeetu jaxasoo ginaaw bimu jàngee li ñuy saytu. Evaluation yu am njariñ dina ñu méngale friction, provenance logging, gis-gis jeffin ju boole, ak xoolaat nit ci di natt njuumte yu baax ak njeexital ci jëfandikukat yu bari yi.
Fi may jeexalee mooy jëfandikoo gi ci anam wu jaar yoon, fàww nga saytu kaadar bi ci boppam. Environmaa bu red-team dafa wara tëye senaario yi, moytu di teg nit ñu dëggu, aar bépp done buñ lëkkale, ba noppi bind ni ñuy tàqalee agents synthetik yi ak ëmbiit yiñ defar ci platform publik yi. Ba gëm-gëmu biti yegsi, IO Factory dañu koy gëna xamee ni jumtukaayu gëstu bu leer ak modeling menace: am solo ngir saytu xalaat, doyul ngir wax ni dëgg-dëgg àdduna wala insidan dëgg.