Kini o ṣẹlẹ
Iwe arXiv tuntun kan ṣafihan Factory IO, ilana iwadii kan fun simulating awọn ipolongo ipa AI-ṣiṣẹ bi awọn igbesi aye itọpa. Eto naa so awọn iṣe aṣoju iṣọpọ pọ si awọn igbasilẹ ifihan ati tunto awọn ayipada olugbo, gbigba awọn oniwadi laaye lati ṣe afiwe ipolongo ti nṣiṣe lọwọ pẹlu ipilẹ ti o baamu ni inu iru ẹrọ iṣakoso kan.
Ilana naa yapa awọn ipele mẹta ti o nigbagbogbo ṣubu ni awọn ijiroro ti ifọwọyi ori ayelujara: ọkọ ofurufu iṣakoso ti o ṣeto idanwo naa, ọkọ ofurufu kikopa nibiti awọn aṣoju ṣiṣẹ lori pẹpẹ kan, ati ọkọ ofurufu igbelewọn ti o ṣe iwọn ifihan ati awọn iyipada ipinlẹ. Ifiranṣẹ ko ni ka bi ipa lasan nitori pe o jẹ ipilẹṣẹ. O gbọdọ gbe, di han labẹ awọn ofin Syeed, de ọdọ ara ilu ti a ṣe awoṣe, kọja ilana wiwọn ti a tunto, ati lẹhinna ṣe afiwe pẹlu ipilẹ kan.
Imuse ti a royin nlo Gemma 4 31B lori awọn apa H200 fun awọn oṣere ti a ṣe afiwe ati ṣe atilẹyin ṣiṣe afọwọsi pẹlu awọn alagbada 100,000 ati awọn oniṣẹ ipa-ipa 10,000. Ẹri ti o baamu iwe naa wa lati awọn apẹrẹ ti o kere pẹlu awọn ara ilu 10,000 ati awọn ẹda-ipilẹ-ibẹrẹ ti o ni asopọ 13. Awọn onkọwe ṣe idanwo oju iṣẹlẹ-meji ti o fojusi igbẹkẹle pọ si ni Russia ati atilẹyin fun jijẹ kokoro, pẹlu oju iṣẹlẹ lọtọ ti o fojusi igbẹkẹle kekere si awọn ile-iṣẹ gbogbogbo; iwọnyi jẹ awọn eto kikopa, kii ṣe awọn akiyesi nipa awọn olugbe gidi.
Ninu apẹrẹ meji-itumọ, iwe naa ṣe ijabọ igbega itọsọna ti 0.132 fun atilẹyin fun jijẹ kokoro ati 0.130 fun igbẹkẹle ni Russia. Ninu apẹrẹ ẹyọkan, igbẹkẹle si awọn ile-iṣẹ gbogbogbo n dinku ni ibatan si ipilẹ-ipilẹ pẹlu gbigbe ami-iṣatunṣe ti o royin ti 0.336. Gbogbo awọn aaye ipari akọkọ mẹta jẹ pataki lẹhin atunṣe Holm ni p<0.001. Tabili kanna ṣe ijabọ polarization awoṣe ti o ga julọ ninu awọn ṣiṣiṣẹ lọwọ, pẹlu 4.714 dipo 3.865 fun apẹrẹ ẹyọkan, ṣugbọn awọn iye yẹn wa lori iwọn simulator.
Awọn onkọwe naa tun jabo ida kan ti n ṣiṣẹ lọwọ ti o to 0.494 ninu awọn apẹrẹ akọkọ mejeeji, ti o tumọ si aijọju idaji awọn ara ilu ti a ṣe awoṣe ni igbasilẹ ifihan ti o kan orisun iṣẹ-ipa. Iṣẹ ṣiṣe ti ara ilu jẹ kekere labẹ iwọn atunto, pataki ni apẹrẹ ẹyọkan. Iwe naa leralera ṣe opin itumọ naa: awọn nṣiṣẹ fihan pe IO Factory le ṣe ati wiwọn awọn igbero ipolongo ti a kede, kii ṣe pe ipolongo AI kan yoo ṣaṣeyọri awọn ipa wọnyẹn lori pẹpẹ gidi tabi olugbe.
Awọn alaye orisun: IO Factory research paper on arXiv ↗
Kini idi ti o ṣe pataki
Ilowosi ilowo jẹ itọpa iṣayẹwo fun awoṣe irokeke ti a ko le loye lati awọn ifiweranṣẹ ti o ya sọtọ. O fun awọn olugbeja ni ọna lati ṣe idanwo bi isọdọkan, hihan Syeed, ifihan, ati wiwọn awọn olugbo ṣe ibaraenisepo ṣaaju ṣiṣe itọju ilana sintetiki gẹgẹbi ẹri ti ipa gidi.
Awọn awoṣe ipilẹṣẹ le jẹ ki awọn ifiranṣẹ jẹ olowo poku, didan, ati ti a ṣe deede, ṣugbọn iwọn didun ifiranṣẹ nikan ko ni fi idi idaniloju mulẹ. Igbẹkẹle orisun, atunwi, agbegbe awujọ, awọn igbagbọ iṣaaju, ati ọna eyiti eniyan pade ibeere kan gbogbo ọrọ. Ile-iṣẹ IO jẹ ki awọn arosinu yẹn han gbangba bi awọn apakan ti igbesi-aye igbesi aye, nitorinaa oniwadi le rii ipele wo ni o yipada laarin ṣiṣe ti nṣiṣe lọwọ ati ipilẹṣẹ dipo sisọ gbogbo iyatọ si awoṣe ede.
Ilana yẹn le mu awọn adaṣe igbeja dara si. Syeed kan, atẹle idibo, ẹgbẹ iwulo gbogbo eniyan, tabi ẹgbẹ aabo le yatọ si nọmba awọn aṣoju isọdọkan, akoko ti awọn iṣe wọn, awọn ofin hihan, tabi aaye idasi, lẹhinna ṣayẹwo awọn igbasilẹ iṣafihan abajade. Iye naa kii ṣe asọtẹlẹ lati inu olugbe itan-akọọlẹ. O jẹ aaye ti o le ṣe atunṣe lati beere iru awọn ifihan agbara ti o ṣe akiyesi, iru awọn wiwọn wo ni o nsọnu, ati bii wiwa ti a daba tabi ẹrọ ija le ni ipa lori ọna ipolongo naa.
Iyapa ti iwe naa ti iṣe lati ẹri jẹ iwulo paapaa fun itupalẹ iṣẹlẹ. Iṣupọ ti awọn ifiranṣẹ ti o jọra le jẹ aami aisan, ṣugbọn ẹri ti o lagbara yoo so awọn akọọlẹ, awọn iṣe, awọn ipa ọna ifihan, ati aṣamubadọgba lori akoko. Simulator iṣakoso le ṣe iranlọwọ fun awọn oniwadi ṣe apẹrẹ awọn igbasilẹ wọnyẹn ati ṣe afiwe awọn ọna wiwa. O tun le ṣafihan nigbati oluyẹwo n ṣe iwọn iṣẹ ṣiṣe tabi igbẹkẹle-adajọ awoṣe dipo iyipada ninu awọn igbagbọ awọn olugbo.
Idabobo anfani gbogbo eniyan wa ni fifi ala han. Russia ti o royin, atilẹyin kokoro, ati awọn oju iṣẹlẹ-igbekele igbekalẹ jẹ awọn itumọ atunto ti a yan fun idanwo naa. Wọn kii ṣe awọn abajade iwadi, awọn awari oye, tabi ẹri pe awọn eniyan ni idaniloju. Itoju iṣelọpọ simulator bi iṣẹlẹ gidi-aye yoo ṣẹda iru eewu alaye ti o yatọ: ifihan sintetiki le jẹ aṣiṣe fun ẹri nipa orilẹ-ede kan, agbegbe, tabi idibo.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
crm_get_transaction(id='4092').What is 'specification gaming' in AI systems?
Kini lati wo tókàn
Ẹri ti o tẹle yẹ ki o sopọ simulator si awọn akiyesi ti a gba ni ihuwasi, ṣe idanwo boya awọn wiwọn rẹ ye awoṣe ati awọn ayipada pẹpẹ, ati ṣafihan bii awọn olugbeja le lo ipa ọna iṣayẹwo laisi yiyi awọn abajade sintetiki sinu awọn ẹsun.
Awọn oniwadi olominira yẹ ki o tun ṣe awọn apẹrẹ ti o baamu pẹlu awọn awoṣe ede oriṣiriṣi, awọn eto imulo oṣere, awọn olupilẹṣẹ olugbe, ati awọn ẹya nẹtiwọọki. Iwe ti isiyi nlo iṣeto awoṣe kan fun awọn ṣiṣe ijabọ rẹ ati kede ọpọlọpọ awọn ofin simulator. Ṣiṣayẹwo ifamọ yẹ ki o ṣafihan iru awọn ipinnu ti o tẹsiwaju nigbati didara ifiranṣẹ, igbẹkẹle orisun, awọn iloro ifihan, ati iyipada ihuwasi yii, dipo ki o ro pe paramita kan ṣoṣo ṣe aṣoju igbesi aye ori ayelujara.
Isọdiwọn lodi si awọn akiyesi gidi jẹ igbesẹ ti o lera julọ. Awọn data aaye ti iṣe iṣe le pẹlu gbogbo eniyan, ifọwọsi, tabi awọn iwọn titọju-ipamọ ti arọwọto ati ibaraenisepo, ṣugbọn data yẹn kii yoo ṣafihan iyipada igbagbọ laifọwọyi. Iṣẹ iwaju yẹ ki o ṣe afiwe awọn iṣẹlẹ Syeed pẹlu awọn iwọn imọ-jinlẹ awujọ ti a fọwọsi, ṣafihan aidaniloju, ati ṣe iyatọ ohun ti ẹrọ afọwọṣe le ṣe ẹda lati ohun ti o jẹ ki oju han lasan. Awọn onidajọ ti o da lori awoṣe yẹ ki o wa awọn ohun elo wiwọn lati ṣe ayẹwo, kii ṣe awọn aropo fun otitọ ilẹ.
Awọn olugbeja yẹ ki o tun ṣe idanwo awọn ipolongo adaṣe ati awọn igbeja igbeja. Iwe naa ṣe apejuwe igbero, ifihan, wiwọn, ati aṣamubadọgba, sibẹsibẹ ọta gidi le yi akoko pada, idanimọ orisun, ede, tabi aṣa ibaraenisepo lẹhin kikọ ohun ti a ṣe abojuto. Awọn igbelewọn to wulo yoo ṣe afiwe ija, gedu ijẹrisi, iṣawari ihuwasi-iṣedede, ati atunyẹwo eniyan lakoko wiwọn awọn idaniloju eke ati awọn ipa alagbero lori awọn olumulo lasan.
Nikẹhin, lilo lodidi nilo awọn idari ni ayika ilana funrararẹ. Ayika ẹgbẹ-pupa yẹ ki o jẹ ki awọn oju iṣẹlẹ di opin, yago fun ibi-afẹde eniyan gidi, daabobo eyikeyi data ti o sopọ, ati ṣe akọsilẹ bii awọn aṣoju sintetiki ati akoonu ti ipilẹṣẹ ṣe yapa si awọn iru ẹrọ gbangba. Titi ififọwọsi ita ti de, IO Factory jẹ oye ti o dara julọ bi iwadii ti o han gbangba ati ohun elo awoṣe-ihalẹ: niyelori fun awọn arosinu idanwo, ko to fun ẹtọ idaniloju-aye gidi tabi iṣẹlẹ gidi kan.