Karatasi inaonya kwamba mawakala wa LLM wanaweza kurejesha maarifa yaliyofutwa kupitia zana

Nini kilitokea

Karatasi ya arXiv inatanguliza Kutojifunza kwa Zana ya Wakala, mfumo ulioundwa kwa mawakala wa modeli za lugha ambao wanaweza kuita zana za nje. Waandishi wanasema kuwa kutojifunza kwa kawaida kunaweza kukandamiza kumbukumbu ya moja kwa moja ya modeli ya habari bila kumzuia wakala kupata habari sawa kupitia utaftaji wa wavuti, urejeshaji au utaftaji wa hifadhidata.

Karatasi inaelezea hali ya kutofaulu ambayo inaita ahueni ya upatanishi wa zana. Katika muundo wa lugha ya kawaida, kutojifunza kwa kawaida hutathminiwa kwa kupima kama modeli bado inaweza kukumbuka moja kwa moja lengwa lililoteuliwa kutoka kwa vigezo vyake. Waandishi wanasema kuwa tathmini hii haijakamilika kwa wakala ambaye jibu lake linaweza kutegemea simu za zana na uchunguzi wa nje. Wakala kama huyo anaweza kushindwa kutaja lengo kutoka kwa kumbukumbu lakini kupata habari sawa kupitia chanzo cha nje. Tofauti ni muhimu kwa sababu jibu linaloonekana linaweza kubaki linapatikana hata wakati majibu ya ndani ya mfano yamebadilika. Katika mpangilio huo, kutathmini kielelezo bila kutathmini vitendo vyake kunaweza kukosa njia ambayo lengo linapatikana.

Mbinu iliyopendekezwa, Agent Tool Unleaning, ina hatua mbili. Kwanza, mfumo unatumia uondoaji wa maarifa wa parametric unaokusudiwa kukandamiza kumbukumbu ya moja kwa moja. Pili, hutumia ujifunzaji wa uimarishaji wa kiwango cha trajectory katika mazingira yaliyoigwa ya uboreshaji wa zana. Kulingana na muhtasari wa karatasi, hatua hii inaadhibu tabia ya zana inayolenga kulenga na uvujaji katika jibu la mwisho. Kusudi ni kupunguza ahueni kupitia vitendo vya wakala, sio tu kupitia mabadiliko ya uzani wa mfano. Hii inafanya mfuatano wa maamuzi ya wakala kuwa sehemu ya tatizo la kutojifunza, ikijumuisha chaguo la kutafuta taarifa na jinsi nyenzo zilizorejeshwa zinavyojumuishwa katika jibu.

Waandishi huripoti majaribio juu ya viwango vya kutojifunza vya RWKU na MUSE katika usanifu tofauti wa miundo ya lugha. Wanasema njia hiyo inafanikisha usawa bora kati ya kusahau lengo lililowekwa na kubakiza matumizi ya kawaida kwa maarifa ambayo yanapaswa kubaki kupatikana. Chanzo kilichotolewa hakitoi matokeo ya nambari, majina ya mifano, gharama za mafunzo, ulinganisho wa msingi au maelezo ya zana zilizoiga, kwa hivyo nguvu na upeo wa uboreshaji ulioripotiwa hauwezi kutathminiwa kutoka kwa muhtasari pekee. Upungufu huo huacha matokeo kueleweka vyema kama pendekezo la utafiti na majaribio yaliyoripotiwa, badala ya kama ushahidi kwamba mbinu hiyo imethibitishwa katika mifumo yote iliyotumwa.

Maelezo ya chanzo: arxiv.org ↗

Kwa nini ni muhimu

Karatasi inaangazia tatizo la kiusalama na la usalama kwa mifumo inayochanganya miundo ya lugha na zana za nje. Kuondoa maarifa kutoka kwa vigezo vya kielelezo kunaweza kusitoshe ikiwa wakala bado anaweza kupata au kuunda upya lengo kupitia zana zinazozunguka.

Utaftaji ni muhimu kwa sababu ufikiaji wa zana hubadilisha maana ya mfumo wa AI kuwa umesahau kitu. Muundo hauwezi tena kusimba au kutoa taarifa moja kwa moja, lakini wakala kamili bado anaweza kuizalisha kwa kutafuta, kurejesha au kuuliza hifadhidata iliyounganishwa. Kwa mifumo inayoshughulikia taarifa za kibinafsi, za umiliki au zilizowekewa vikwazo, kitengo husika cha tathmini kwa hivyo kinaweza kuwa mtiririko kamili wa kazi wa wakala badala ya muundo uliotengwa. Mtazamo huu mpana hufuata habari kupitia njia nzima inayoweza kutoa jibu, badala ya kutibu vigezo vya mfano kama chanzo pekee kinachowezekana.

Tofauti hiyo pia ina athari kwa jinsi mashirika yanavyotafsiri madai ya kufutwa au kuondolewa. Ikiwa ombi limekusudiwa kuzuia wakala kutoa lengo fulani, kurekebisha vigezo pekee kunaweza kuacha njia mbadala ikiwa wazi. Karatasi haithibitishi kuwa mfumo wowote uliotumwa kwa sasa haufanyi kazi kwa njia hii, lakini inatoa mfumo madhubuti wa tathmini ya kupima ikiwa zana za wakala zinadhoofisha utaratibu wa kutojifunza. Fremu hiyo inaweza kusaidia kutenganisha mabadiliko katika kile ambacho kielelezo kinakumbuka kutoka kwa mabadiliko katika kile ambacho mfumo uliokusanyika bado unaweza kupata. Pia huweka wigo wa dai la uondoaji unaohusishwa na tabia ambayo watumiaji wanaweza kutazama.

Kuna ubadilishanaji mgumu wa uhandisi katika lengo lililopendekezwa. Utumiaji wa zana mara nyingi ni muhimu kwa wakala kujibu maswali kuhusu habari ambayo inapaswa kuhifadhi. Kuadhibu kutafuta sana zana kunaweza kuharibu tabia muhimu, wakati kuadhibu kidogo kunaweza kuacha lengo lililosahaulika liweze kurejeshwa. Madhumuni ya karatasi iliyobainishwa ya kuhifadhi maarifa yaliyobaki yanafanya biashara hii kuwa wazi, lakini chanzo hakionyeshi jinsi mbinu hiyo inavyoshughulikia maombi yenye utata, maswali yasiyo ya moja kwa moja au zana zilizo na maelezo yanayopishana. Kwa hivyo njia muhimu lazima izuie njia isiyotakikana huku ikiendelea kuunga mkono utumiaji wa zana ambayo inasalia kuwa halali, mizani ambayo haiwezi kubainishwa kutoka kwa muhtasari pekee.

Nini cha kutazama baadaye

Swali kuu ni ikiwa mbinu iliyoripotiwa inajumlisha zaidi ya mazingira yaliyoiga ya karatasi na vigezo. Ufafanuzi zaidi unahitajika kuhusu maelezo lengwa, usanidi wa zana, usanifu wa miundo, ubadilishanaji uliopimwa na kama mbinu hiyo inafanya kazi kwa uhakika bila kutatiza matumizi halali ya zana.

Karatasi kamili inapaswa kufafanua kile kinachozingatiwa kama kusahau kwa mafanikio. Maelezo muhimu ni pamoja na kama tathmini hukagua tu uzazi halisi lengwa au pia vifungu vya maneno, majibu yasiyo ya moja kwa moja na uundaji upya wa hatua nyingi. Inapaswa pia kuonyesha jinsi mbinu hiyo inavyotofautisha kutafuta shabaha kulikopigwa marufuku na urejeshaji halali wa maarifa yanayohusiana yaliyohifadhiwa, kwa kuwa tofauti hiyo itaamua kama mbinu hiyo ni ya vitendo. Muundo wa tathmini utafaa kama matokeo ya kichwa cha habari: jaribio finyu linaweza kuonyesha kuwa jibu mahususi limezuiwa bila kuonyesha kuwa maelezo ya msingi hayawezi kufikiwa kupitia njia nyingine. Ufafanuzi wazi utafanya usawa ulioripotiwa kati ya kusahau na matumizi rahisi kutafsiri.

Urudufishaji utakuwa muhimu kwa sababu majaribio yaliyoripotiwa yanatumia RWKU na MUSE na mazingira yaliyoigwa ya uboreshaji wa zana. Wasomaji wanapaswa kutafuta majaribio yenye aina tofauti za zana, mifumo ya urejeshaji, hifadhidata na familia za mfano, pamoja na tathmini zilizofanywa nje ya usanidi wa mafunzo ya waandishi. Muhtasari hausemi ikiwa msimbo, mazingira au miundo iliyofunzwa inapatikana, kwa hivyo uzalishaji tena haujulikani kwa sasa. Majaribio ya kujitegemea yanaweza pia kusaidia kubainisha ikiwa mbinu inategemea njia mahususi ambayo zana zilizoiga hufichua maelezo au kama vikwazo vyake hudumu wakati mfumo unaouzunguka umesanidiwa kwa njia tofauti. Bila ulinganisho huo, jumla ya mbinu inabaki kuwa swali wazi.

Tathmini za siku zijazo zinapaswa kupima usalama na matumizi kwa njia ndefu za wakala. Mfumo unaozuia uvujaji wa moja kwa moja katika majaribio mafupi unaweza kufanya kazi tofauti wakati unaweza kupanga, kujaribu tena, kupiga simu zana kadhaa au kuchanganya uchunguzi wa sehemu. Chanzo pia huacha wazi ikiwa Kutojifunza kwa Zana ya Ajenti kunaweza kushughulikia maelezo yaliyonakiliwa katika faharasa za zana au hifadhidata zenyewe, na kama inaweza kutumika kwa mawakala waliotumwa bila kutoa mafunzo upya kwa mifumo inayowazunguka. Maswali haya yanaunganisha utaratibu wa kiwango cha modeli na mazingira mapana ambayo urejeshaji unaweza kutokea. Pia zinaonyesha ni kwa nini onyesho lililofaulu litahitaji kuchunguza kile ambacho wakala anakataa kufichua na ni taarifa gani muhimu anayoendelea kupata.

Miongozo & maswali yanayohusiana