Pada si Iroyin
AtunseAI Understanding finifini

Iwe GRIN dabaa ẹkọ imuduro fun abẹrẹ imọ nigbagbogbo ni awọn awoṣe ede

Iwe arXiv tuntun kan ni imọran Abẹrẹ Golden-GRPO, ilana ikẹkọ ti ara ẹni-ipele mẹta ti a pinnu lati ṣe iranlọwọ fun awọn awoṣe ede ti o tobi lati gba imọ itasi tuntun ati lo o kọja awọn asọye, awọn iwe-ipamọ apapọ ati awọn iṣẹ-ṣiṣe ero.

6 min readRead the primary source
Primary-source image accompanying GRIN paper proposes reinforcement learning for continual knowledge injection in language models
Iwe aṣẹ orisun akọkọOrisun ti o gbasilẹ
Olutẹwe
arxiv.org
Orisun ọna asopọ
arxiv.orghttps://arxiv.org/abs/2608.25243
Orisun iru
Iwe akọkọ - ikede osise, iwe, iforukọsilẹ, tabi oju-iwe ẹgbẹ akọkọ ti a ka taara.
AtokọLoye eyi ni iṣẹju 60

Bẹrẹ nibi

Awọn ofin bọtini

Ẹkọ imudara
Ikẹkọ nipasẹ awọn ami ẹsan nibiti aṣoju kan kọ awọn iṣe ti o mu ipadabọ igba pipẹ pọ si.
Itanran-tuning
Ilọsiwaju ikẹkọ lori data-ašẹ kan pato lati ṣe atunṣe awoṣe ti a ti kọ tẹlẹ si iṣẹ-ṣiṣe kan pato.
Agbara
Agbara awoṣe lati ṣetọju iṣẹ ṣiṣe labẹ ariwo, awọn iyipada, tabi awọn igbewọle ọta.
Ṣe idanwo fun ara rẹAwọn awoṣe AI ti ṣalaye adanwo

Kini o ṣẹlẹ

Awọn oniwadi Zhibo Hou, Fan Zhao, Zhiyu An ati Wan Du daba Golden-GRPO Injection, tabi GRIN, ilana ẹkọ ti ara ẹni ipele mẹta fun fifi imọ nigbagbogbo si awọn awoṣe ede nla. Apapọ aarin rẹ, Golden-GRPO, jẹ ọna ikẹkọ imuduro-ilana ti o dapọ ti o pese idahun itọkasi nigbati igbiyanju eto imulo awoṣe ba kuna lori otitọ tuntun kan. Iwe naa ṣafihan awọn aṣepari ipele iwe-ipamọ meji, Òfo ati Counter, fun idanwo gbigba imọ aramada ati atunkọ atako. Awọn onkọwe naa jabo pe GRIN ṣe itusilẹ ti o dara ju abojuto ati awọn ipilẹ-ẹkọ imudara-ilana eto imulo miiran lori awọn ibeere lile lakoko ti o baamu wọn lori iranti ipilẹ otitọ.

Orisun naa jẹ áljẹbrà arXiv fun iwe ti a fi silẹ ni Oṣu Kẹjọ Ọjọ 26, Ọdun 2026. Awọn onkọwe ṣe agbekalẹ abẹrẹ imọ nigbagbogbo bi ọna lati tọju awọn awoṣe ede nla lọwọlọwọ ni agbegbe iyipada iyara. Wọn jiyan pe awọn ọna iṣatunṣe ti o dara ti iṣakoso ti o wa tẹlẹ le ṣe akori awọn otitọ itasi ni ọna kika ti a lo fun ikẹkọ ṣugbọn o le kuna nigbati alaye kanna ba jẹ asọye, ni idapo pẹlu awọn iwe aṣẹ miiran tabi lo ninu ero. Nitorina iwe naa dojukọ boya awoṣe le lo alaye tuntun ni irọrun lẹhin imudojuiwọn, kii ṣe tun ṣe otitọ taara nikan.

Eto ti a dabaa ni a pe ni Golden-GRPO Injection, tabi GRIN, ati pe a ṣe apejuwe rẹ gẹgẹbi ilana ẹkọ ti ara ẹni ipele mẹta. Algorithm aarin rẹ, Golden-GRPO, jẹ ọna kika imuduro-ilana eto imulo ti a ṣe apẹrẹ fun abẹrẹ imọ. Gẹgẹbi áljẹbrà, o pese “idahun goolu” bi ifihan agbara ẹkọ paapaa nigba ti yiyọ eto imulo ba kuna lori otitọ aramada kan. Ni awọn ọrọ ti o wulo, ọna ti a pinnu lati yago fun gbigbe ara nikan lori awọn igbiyanju aṣeyọri ti ara ẹni nigbati imọ ti a ṣe jẹ titun ati pe awoṣe ko ti mọ bi a ṣe le dahun ni deede.

Iwe naa tun ṣafihan awọn ipilẹ ipele ipele iwe-ipamọ meji. Òfo fojusi akomora aramada, nigba ti Counter fojusi counterfactual ìkọlélórí. Afoyemọ naa sọ pe awọn aami aṣepari mejeeji ṣe iṣiro awọn agbara mẹta: iranti iranti otitọ kan, gbigba alaye lati awọn orisun lọpọlọpọ, ati ṣiṣe ero inferential. Eto yii ṣe pataki nitori pe o yapa iranti taara lati awọn iṣẹ ṣiṣe ti o nilo awoṣe imudojuiwọn lati ṣajọpọ alaye tabi gba idahun kan. Orisun naa ko pese iwọn awọn ala, koko ọrọ, ilana ikole tabi awọn apẹẹrẹ.

Awọn onkọwe ṣe ijabọ pe ikẹkọ imuduro eto imulo adapọ jẹ ki “gbigba oye” kọja ohun ti iṣatunṣe itanran ti iṣakoso le ṣaṣeyọri. Wọn tun sọ siwaju pe GRIN ni pataki ju iṣatunṣe iṣatunṣe ti o dara ju abojuto ati awọn ipilẹ-ẹkọ imudara eto imulo lori awọn iru ibeere ti o nira, lakoko ti o baamu awọn ọna yẹn lori iranti ipilẹ otitọ. Iwọnyi jẹ awọn ẹtọ ti awọn onkọwe iwe naa ṣe. Orisun ti a pese ko ni awọn nọmba nọmba, awọn iṣiro aidaniloju, awọn abajade ifasilẹ tabi awọn alaye nipa iru awọn awoṣe ati data ti a lo, nitorinaa titobi ati agbara ti ilọsiwaju ti o royin ko le ṣe iṣiro lati inu áljẹbrà nikan.

Awọn alaye orisun: arxiv.org ↗

Kini idi ti o ṣe pataki

Iwe naa ṣalaye aropin ilowo ti awọn awoṣe ede mimu dojuiwọn: kikọ ẹkọ otitọ kan ni ọna kika ti a lo lakoko ikẹkọ ko tumọ si lilo nigba ti ọrọ, awọn iwe aṣẹ tabi awọn ibeere ironu yipada. Ti ọna ti a royin ba ṣakopọ, o le jẹ ki awọn imudojuiwọn awoṣe jẹ iwulo diẹ sii nipa idanwo boya imọ tuntun ti a pese ni a ṣepọ dipo ki o ṣe akoda nikan. Orisun naa ko pese afọwọsi ominira, awọn abajade alaye tabi ẹri ti imuṣiṣẹ, nitorinaa pataki naa jẹ ibeere iwadii ti o ni agbara ju agbara iṣelọpọ ti iṣeto.

Ọrọ agbedemeji jẹ iyatọ laarin ṣiṣe akori alaye tuntun ti a pese ati lilo alaye yẹn gẹgẹbi apakan ti ihuwasi gbooro ti awoṣe. Eto ti o dahun nikan nigbati o ba ṣetan ni ọrọ kanna ti a lo lakoko ikẹkọ le jẹ iwulo diẹ sii ju ọkan ti o le ṣe idanimọ awọn asọye, so awọn iwe aṣẹ lọtọ ati idi lati alaye imudojuiwọn. GRIN jẹ apẹrẹ ni ayika iyatọ yẹn, ṣiṣe iwe naa ni ibamu taara si bii awọn awoṣe ede ṣe le ṣetọju lẹhin ikẹkọ atilẹba wọn.

Igbelewọn ti a dabaa tun tọka si boṣewa ibeere diẹ sii fun awọn imudojuiwọn awoṣe. Ìrántí ìdánilẹ́kọ̀ọ́ òtítọ́ kan lè ṣàfihàn bóyá ohun kan wà ní ìdádúró, ṣùgbọ́n ìmúpadàbọ̀ orísun-ọ̀pọ̀lọpọ̀ àti ìdánwò ìdánilẹ́kọ̀ọ́ ìdánwò bóyá ìwífún náà lè ráyèsí àti ìlò ní oríṣiríṣi àrà ọ̀tọ̀. Atunkọ Counterfactual jẹ pataki pataki si imudojuiwọn igbagbogbo nitori pe o ṣe ayẹwo boya awoṣe le rọpo ẹya iṣaaju ti alaye pẹlu tuntun kan. Orisun naa ko ṣe agbekalẹ bii GRIN ti o gbẹkẹle ṣe awọn iṣẹ wọnyi, ṣugbọn o ṣe idanimọ awọn agbara nja ti awọn ọna imudojuiwọn nilo lati wọn.

Ti awọn abajade ti awọn onkọwe ba duro kọja awọn awoṣe ati awọn ipilẹ data, ọna naa le dinku aafo laarin mimudojuiwọn ihuwasi ti o fipamọ awoṣe kan ati muu ṣiṣẹ lati lo imọ tuntun ti a ṣafihan. Iyẹn le ṣe pataki fun awọn ohun elo nibiti alaye ti yipada ati awọn idahun dale lori apapọ ọpọlọpọ awọn iwe aṣẹ ti a pese. Sibẹsibẹ, orisun ṣe apejuwe ilana iwadi kan, kii ṣe ọja ti a tu silẹ tabi imuṣiṣẹ. Ko ṣe afihan pe GRIN n ṣiṣẹ ni awọn eto iṣiṣẹ gidi, duro ni iduroṣinṣin lori ọpọlọpọ awọn akoko imudojuiwọn tabi yago fun ibajẹ awọn agbara ti ko ni ibatan.

Awọn idiwọn pataki tun wa si ẹri ti o wa nibi. Ifisilẹ jẹ iwe-tẹlẹ, ati pe ohun elo ti a pese jẹ ọrọ oju-iwe ibalẹ arXiv nikan ati áljẹbrà. Ko si abajade atunyẹwo ẹlẹgbẹ ti a fun, ati pe ko si ẹda ita tabi igbelewọn ominira ti a tọka si. Afoyemọ naa ko ṣe idanimọ awọn imuse ipilẹ, nọmba awọn awoṣe ti a ṣe ayẹwo, awọn oriṣi ti imọ itasi, tabi agbara iṣiro ti awọn afiwera. Awọn aimọ wọnyẹn tumọ si abajade ti o le ṣe iwadii iwulo, ṣugbọn kii ṣe afihan ojutu gbogbogbo fun titọju awọn awoṣe ede ti a fi ranṣẹ lọwọlọwọ.

Interactive Mechanism

Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ

Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.

Thinking Budget (Test-Time Tokens):1,024 tokens
Complex Accuracy79%Math & Code Logic
Latency3.2sTime to first full output
Inference Cost$0.0092Per query estimated
Reasoning StyleStep VerificationInternal chain depth
Active Thinking Trace:
1Deconstruct user problem into formal constraints
2Propose candidate hypotheses & step-by-step calculation
3Self-correction: Backtrack and refute subtle edge cases
4Exhaustive consistency check & final output synthesis
Core takeaway: Test-time compute fundamentally changes AI economics. Instead of only scaling during pre-training, giving reasoning models more tokens at inference time allows them to systematically solve PhD-level STEM problems.
Ibanisọrọ Erongba Ṣayẹwo+10 Points
AI Models Explained Quiz

Which component of an AI application is the machine-learning model itself?

Kini lati wo tókàn

Atẹle to ṣe pataki julọ ni ẹri kikun lẹhin awọn anfani ijabọ GRIN: akopọ ala, awoṣe ati awọn alaye ikẹkọ, awọn abajade nọmba, awọn afiwera pẹlu awọn ọna imudojuiwọn to lagbara, ati iṣẹ ṣiṣe lori imọ ti ko yan nipasẹ awọn onkọwe. O tun jẹ koyewa lati orisun bawo ni ọna naa ṣe n kapa awọn iwe aṣẹ ti o fi ori gbarawọn tabi ti ko tọ, bawo ni igbagbogbo awọn atunkọ atako ṣe ṣaṣeyọri, boya ọna naa yipada imọ ti a kọ tẹlẹ ni aimọkan, ati boya koodu tabi data ala yoo tu silẹ.

Iwe kikun yẹ ki o ṣalaye kini awọn ipele mẹta ti GRIN ṣe ati bii Golden-GRPO ṣe dapọ awọn eto imulo rẹ. O yẹ ki o tun fihan boya ifihan-idahun itọkasi ti wa ni ipilẹṣẹ, ti yan tabi bibẹẹkọ ti pese sile, nitori igbẹkẹle ati idiyele ti ifihan naa le ni ipa lori lilo iṣe. Awọn alaye nipa iye akoko ikẹkọ, awọn ibeere iširo ati nọmba awọn apẹẹrẹ imudojuiwọn yoo ṣe iranlọwọ lati pinnu boya ọna naa ṣee ṣe kọja idanwo iṣakoso kan.

Awọn aṣepari naa ṣe atilẹyin idanwo to sunmọ. Awọn oluka yẹ ki o wa awọn agbegbe ti o ṣojuuṣe ni Blank ati Counter, bawo ni awọn otitọ aramada ṣe yapa kuro ninu data ikẹkọ iṣaaju, bawo ni awọn ibeere orisun-pupọ ṣe ṣe, ati bii awọn idahun ti ko ni idiyele ṣe gba wọle. Yoo tun ṣe pataki lati rii boya awọn anfani ti o royin tẹsiwaju labẹ awọn asọye ati awọn akojọpọ iwe ti ko ni ibamu ni pẹkipẹki pẹlu awọn apẹẹrẹ ikẹkọ. Afoyemọ naa ṣe agbekalẹ awọn idanwo ti a pinnu ṣugbọn ko pese alaye to lati ṣe idajọ ibú tabi iṣoro wọn.

Akọsilẹ Counterfactual gbe ibeere igbẹkẹle lọtọ dide: yiyipada nkan ti imọ le fa awọn iyipada airotẹlẹ ni ibomiiran. Orisun naa ko sọ boya awọn onkọwe ṣe iwọn idaduro awọn otitọ ti ko ni ibatan, awọn ija laarin awọn iwe aṣẹ, awọn imudojuiwọn leralera tabi awọn iyipada si alaye iṣaaju. Awọn idanwo yẹn yoo ṣe iranlọwọ ṣe iyatọ imudojuiwọn imọ iṣakoso lati ọna ti o rọrun ni ilọsiwaju iṣẹ lori eto dín ti awọn apẹẹrẹ itasi.

Nikẹhin, iṣẹ atẹle yẹ ki o fi idi boya awọn awari ṣe atunṣe kọja awọn awoṣe ede ati awọn oriṣi imọ. Orisun naa ko mẹnuba koodu, awọn ero itusilẹ ala, awọn aaye ayẹwo awoṣe gbogbogbo tabi awọn olumulo gidi-aye. Ko tun sọ bi ọna naa ṣe n kapa awọn idahun itọkasi ti ko tọ tabi alaye itasi tuntun ti o tako pẹlu awọn iwe aṣẹ miiran. Titi di idahun awọn ibeere wọnyẹn, ipari ti o han julọ jẹ opin: iwe naa ṣe ijabọ itọsọna esiperimenta ti o ni ileri fun ṣiṣe iṣiro ati ikẹkọ awọn imudojuiwọn imọ igbagbogbo, pẹlu anfani ti o lagbara julọ ti o farahan lori awọn iṣẹ ṣiṣe ti kii ṣe iranti.

Awọn itọsọna ti o jọmọ & awọn ibeere

Awọn awoṣe AI ti ṣalayeAI IkẹkọAyirapadaỌjọ́ Iwájú AIṢe idanwo ohun ti o mọ — gbiyanju idanwo AI ọfẹ kanWa ọrọ AI kan ninu iwe-itumọ waTẹle olutọpa idasilẹ awoṣe AI
Ṣe eyi wulo?