ተመራማሪዎች ለ100,000 ኤጀንቶች AI ተጽዕኖ- ዘመቻ ሲሙሌተርን ገነቡ

ምን ተፈጠረ

አዲስ የarXiv ወረቀት አይኦ ፋብሪካን ፣ AI-የነቃ ተጽዕኖ ዘመቻዎችን እንደ ሊታዩ የሚችሉ የህይወት ዑደቶች የማስመሰል የምርምር ማዕቀፍ አቅርቧል። ስርዓቱ የተቀናጁ የወኪል ድርጊቶችን ከተጋላጭነት መዝገቦች እና ከተዋቀሩ የተመልካቾች ለውጦች ጋር ያገናኛል፣ ይህም ተመራማሪዎች የነቃ ዘመቻን በቁጥጥር ስር ባለው መድረክ ውስጥ ካለው ተዛማጅ መነሻ መስመር ጋር እንዲያወዳድሩ ያስችላቸዋል።

ማዕቀፉ በመስመር ላይ ማጭበርበር በሚደረጉ ውይይቶች ውስጥ ብዙውን ጊዜ የሚወድቁ ሶስት ንብርብሮችን ይለያል-የሙከራውን መርሃ ግብር የሚያወጣ መቆጣጠሪያ አውሮፕላን፣ ወኪሎች በመድረክ ላይ የሚሰሩበት የማስመሰል አውሮፕላን እና ተጋላጭነትን እና የሁኔታ ለውጦችን የሚለካ የግምገማ አውሮፕላን። መልእክት ስለመነጨ ብቻ እንደ ተፅዕኖ አይቆጠርም። መቀመጥ አለበት, በመድረክ ደንቦች ስር መታየት, ሞዴል ያለው ሲቪል ሰው መድረስ, የተዋቀረውን የመለኪያ አሠራር ማለፍ እና ከዚያም ከመነሻ መስመር ጋር መወዳደር አለበት.

የተዘገበው ትግበራ Gemma 4 31B በH200 ኖዶች ላይ ለተመሰሉት ተዋናዮች ይጠቀማል እና ከ100,000 ሲቪሎች እና ከ10,000 ተፅዕኖ ፈጣሪ ኦፕሬተሮች ጋር የማረጋገጫ ሂደትን ይደግፋል። የወረቀቱ ተዛማጅ ማስረጃዎች ከ10,000 ሲቪሎች እና 13 የተጣመሩ የመነሻ-አክቲቭ ቅጂዎች ካሉት ትናንሽ ዲዛይኖች የመጡ ናቸው። ፀሐፊዎቹ በሩሲያ ላይ እምነት እንዲጨምር እና ነፍሳትን ለመብላት ድጋፍን እንዲሁም በሕዝባዊ ተቋማት ዝቅተኛ እምነት ላይ ያነጣጠረ ባለ ሁለት-ግንባታ ሁኔታን ይፈትሹ። እነዚህ የማስመሰል መቼቶች እንጂ ስለ እውነተኛ ህዝብ ምልከታዎች አይደሉም።

በሁለት-ኮንስትራክሽን ንድፍ ውስጥ, ወረቀቱ ለነፍሳት መብላት ድጋፍ 0.132 እና 0.130 በሩሲያ ላይ እምነት ለማሳደር የአቅጣጫ ማንሻ ዘግቧል. በነጠላ-ግንባታ ንድፍ፣ በሕዝብ ተቋማት ላይ ያለው እምነት ከመነሻ መስመር አንፃር እያሽቆለቆለ መጥቷል፣ ሪፖርት የተደረገ ምልክት የተስተካከለ 0.336። ሦስቱም ዋና ዋና የመጨረሻ ነጥቦች ከሆልም እርማት በኋላ በ p<0.001. ተመሳሳይ ሠንጠረዥ ለነጠላ ግንባታ ዲዛይን 4.714 ከ 3.865 ጋር ጨምሮ ከፍተኛ የሞዴል ፖላራይዜሽን ሪፖርት ያደርጋል፣ ነገር ግን እነዚያ እሴቶች በሲሙሌተሩ ሚዛን ላይ ይቆያሉ።

በሁለቱም ዋና ዲዛይኖች ውስጥ ወደ 0.494 የሚጠጋ ገቢር ተደራሽነት ክፍልፋይ እንደሆነ ደራሲዎቹ ዘግበዋል፣ ይህም ማለት በግምት ከነበሩት ሲቪሎች ውስጥ ግማሽ ያህሉ የተፅእኖ-ኦፕሬሽን ምንጭን የሚያካትት የተጋላጭነት ሪከርድ ነበራቸው። በተዋቀረው ልኬት ስር የሲቪል ቅብብሎሽ እንቅስቃሴ ዝቅተኛ ነበር፣ በተለይም በነጠላ-ግንባታ ንድፍ። ወረቀቱ ትርጉሙን ደጋግሞ ይገድባል፡ ሩጫዎቹ እንደሚያሳዩት አይ ኦ ፋብሪካ የታወጁ የዘመቻ ግምቶችን ማስፈጸም እና መለካት ይችላል እንጂ የኤ.

የምንጭ ዝርዝሮች: IO Factory research paper on arXiv ↗

ለምን አስፈላጊ ነው።

ተግባራዊ አስተዋፅዖው ከተገለሉ ልጥፎች ለመረዳት የማይቻል የማስፈራሪያ ሞዴል የኦዲት መንገድ ነው። አንድን ሰው ሰራሽ ስርዓተ-ጥለትን እንደ የእውነተኛ ተጽዕኖ ማስረጃ ከማየቱ በፊት ተከላካዮች ማስተባበር፣ የመድረክ ታይነት፣ ተጋላጭነት እና የተመልካች መለኪያ መስተጋብር እንዴት እንደሚገናኙ ለመፈተሽ መንገድ ይሰጣል።

አመንጪ ሞዴሎች መልእክቶችን ርካሽ፣ አቀላጥፈው እና ብጁ ሊያደርጉ ይችላሉ፣ ነገር ግን የመልእክት መጠን ብቻ ማሳመንን አያመጣም። የምንጭ እምነት፣ መደጋገም፣ ማህበራዊ አውድ፣ ቀደምት እምነቶች እና አንድ ሰው የይገባኛል ጥያቄን የሚያገኝበት መንገድ ሁሉም ጉዳዮች ናቸው። አይኦ ፋብሪካ እነዚያን ግምቶች እንደ የህይወት ኡደት አካል አድርጎ በግልፅ ያስቀምጣቸዋል፣ ስለዚህ አንድ ተመራማሪ እያንዳንዱን ልዩነት ከቋንቋ ሞዴል ጋር ከማያያዝ ይልቅ በነቃ ሩጫ እና በመነሻ መስመር መካከል የትኛው ደረጃ እንደተለወጠ ማየት ይችላል።

ያ መዋቅር የመከላከያ ልምዶችን ማሻሻል ይችላል. መድረክ፣ የምርጫ ተቆጣጣሪ፣ የህዝብ ፍላጎት ቡድን ወይም የደህንነት ቡድን የተቀናጁ ወኪሎችን ብዛት፣ የተግባር ጊዜያቸውን፣ የታይነት ህጎችን ወይም የጣልቃ ገብነት ነጥቡን ሊለያይ ይችላል፣ ከዚያም የተገኘውን የፕሮቨንስ መዝገቦችን ይመረምራል። እሴቱ ከልቦለድ ህዝብ ትንበያ አይደለም። የትኛዎቹ ምልክቶች እንደሚታዩ፣ የትኛዎቹ መለኪያዎች እንደጠፉ፣ እና የታቀደው የፍተሻ ወይም የግጭት ዘዴ በዘመቻው መንገድ ላይ ተጽዕኖ እንደሚያሳድር ለመጠየቅ ሊባዛ የሚችል ቦታ ነው።

የወረቀቱ ድርጊት ከማስረጃ መለየት በተለይ ለአደጋ ትንተና ጠቃሚ ነው። ተመሳሳይ መልዕክቶች ስብስብ ምልክት ሊሆን ይችላል ነገር ግን ጠንከር ያለ ማስረጃ መለያዎችን፣ ድርጊቶችን፣ የተጋላጭ መንገዶችን እና በጊዜ ሂደት መላመድን ያገናኛል። ቁጥጥር የሚደረግበት ሲሙሌተር ተመራማሪዎች እነዚያን መዝገቦች እንዲቀርጹ እና የማወቂያ ዘዴዎችን እንዲያወዳድሩ ሊረዳቸው ይችላል። እንዲሁም አንድ ገምጋሚ ​​የተመልካቾችን እምነት ከመቀየር ይልቅ እንቅስቃሴን ወይም ሞዴል-ዳኛ መተማመንን ሲለካ ሊያጋልጥ ይችላል።

ድንበሩ እንዲታይ ለማድረግ የህዝብ-ጥቅም ጥበቃ አለ። የተዘገበው ሩሲያ፣ የነፍሳት ድጋፍ እና ተቋማዊ-አመኔታ ሁኔታዎች ለሙከራ የተመረጡ የተዋቀሩ ግንባታዎች ናቸው። እነሱ የዳሰሳ ጥናት ውጤቶች፣ የስለላ ግኝቶች ወይም ሰዎች ለማሳመን ማረጋገጫ አይደሉም። የሲሙሌተር ውፅዓትን እንደ የገሃዱ አለም ክስተት ማየቱ የተለየ የመረጃ ስጋት ይፈጥራል፡ ሰው ሰራሽ ማሳያ ስለ ሀገር፣ ማህበረሰብ ወይም ምርጫ በማስረጃ ሊወሰድ ይችላል።

ቀጥሎ ምን እንደሚታይ

ቀጣዩ ማስረጃ ሲሙሌተሩን በሥነ ምግባር ከተሰበሰቡ ምልከታዎች ጋር ማገናኘት፣ መለኪያው ከሞዴል እና ከመድረክ ለውጦች መቆየቱን መፈተሽ እና ተከላካዮች የሰው ሰራሽ ውጤቶችን ወደ ክስ ሳይቀይሩ የኦዲት ዱካውን እንዴት መጠቀም እንደሚችሉ ማሳየት አለባቸው።

ገለልተኛ ተመራማሪዎች የተጣጣሙትን ንድፎች በተለያዩ የቋንቋ ሞዴሎች፣ የተዋናይ ፖሊሲዎች፣ የህዝብ ጀነሬተሮች እና የኔትወርክ አወቃቀሮችን ማባዛት አለባቸው። የአሁኑ ወረቀት ለሪፖርት ስራዎቹ አንድ የሞዴል ውቅር ይጠቀማል እና ብዙ የማስመሰያ ህጎችን ያውጃል። የስሜታዊነት ትንተና አንድ ነጠላ መለኪያ የመስመር ላይ ህይወትን እንደሚወክል ከመገመት ይልቅ የመልዕክት ጥራት፣ የምንጭ ተዓማኒነት፣ የተጋላጭነት ገደቦች እና የማስተላለፍ ባህሪ ሲቀየሩ የትኞቹ መደምደሚያዎች እንደሚቀጥሉ ማሳየት አለበት።

ከእውነተኛ ምልከታዎች አንጻር ማስተካከል በጣም ከባድ እርምጃ ነው። የሥነ ምግባር መስክ መረጃ ይፋዊ፣ ፈቃድ ያለው ወይም ግላዊነትን የሚጠብቁ የመዳረሻ እና መስተጋብር እርምጃዎችን ሊያካትት ይችላል፣ ነገር ግን እነዚያ መረጃዎች የእምነት ለውጥን በራስ-ሰር አያሳዩም። የወደፊቱ ሥራ የመድረክ ዝግጅቶችን ከተረጋገጡ የማህበራዊ ሳይንስ መለኪያዎች ጋር ማወዳደር፣ እርግጠኛ አለመሆንን መግለፅ እና አስመሳይው በእይታ አሳማኝ ከሚያደርገው ብቻ ምን ሊባዛ እንደሚችል መለየት አለበት። ሞዴል ላይ የተመሰረቱ ዳኞች ለኦዲት የመለኪያ መሳሪያዎች ሆነው መቆየት አለባቸው እንጂ የእውነት ምትክ መሆን የለባቸውም።

ተከላካዮችም የማስተካከያ ዘመቻዎችን እና የመከላከያ ጣልቃገብነቶችን መሞከር አለባቸው። ወረቀቱ እቅድ ማውጣትን፣ መጋለጥን፣ ልኬትን እና መላመድን ይገልፃል፣ ሆኖም ግን እውነተኛ ባላጋራ ክትትል የሚደረግበትን ነገር ካወቀ በኋላ ጊዜን፣ ምንጩን ማንነትን፣ ቋንቋን ወይም መስተጋብርን ሊለውጥ ይችላል። ጠቃሚ ምዘናዎች የውሸት አወንታዊ ውጤቶችን እና ተራ ተጠቃሚዎችን በሚለኩበት ጊዜ ግጭትን፣ የማረጋገጫ ምዝግብ ማስታወሻን፣ የተቀናጀ ባህሪን መለየት እና የሰውን ግምገማ ያወዳድራሉ።

በመጨረሻም፣ ኃላፊነት የሚሰማው አጠቃቀም በማዕቀፉ በራሱ ዙሪያ መቆጣጠሪያዎችን ይፈልጋል። የቀይ ቡድን አካባቢ ሁኔታዎችን ውሱን ሆኖ እንዲቆይ፣ እውነተኛ ሰዎችን ኢላማ ከማድረግ መቆጠብ፣ ማንኛውንም የተገናኘ ውሂብ መጠበቅ እና እንዴት ሰው ሰራሽ ወኪሎች እና የመነጩ ይዘቶች ከህዝብ መድረኮች እንደሚለያዩ መመዝገብ አለበት። የውጪ ማረጋገጫ እስኪመጣ ድረስ፣ አይኦ ፋብሪካ እንደ ግልጽ የምርምር እና የማስፈራሪያ ሞዴል መሳሪያ ነው፡ ለመፈተሽ ግምቶች ዋጋ ያለው፣ የገሃዱ አለም ማሳመን ወይም ትክክለኛ ክስተት ለመጠየቅ በቂ አይደለም።

ተዛማጅ መመሪያዎች እና ጥያቄዎች