Kini o ṣẹlẹ
Iwe arXiv kan ṣafihan Agentic Tool Unlearning, ilana ti a ṣe apẹrẹ fun awọn aṣoju awoṣe-ede ti o le pe awọn irinṣẹ ita. Awọn onkọwe jiyan pe aikẹẹkọ aṣa le dinku iranti taara ti awoṣe kan ti alaye laisi idilọwọ fun aṣoju lati gba alaye kanna pada nipasẹ wiwa wẹẹbu, imupadabọ tabi wiwa data data.
Iwe naa ṣe apejuwe ipo ikuna ti o pe imularada-alajaja ọpa. Ninu awoṣe ede ti aṣa, aikẹẹkọ jẹ iṣiro nigbagbogbo nipasẹ idanwo boya awoṣe tun le ranti ibi-afẹde ti a yan taara lati awọn ayewọn rẹ. Awọn onkọwe jiyan pe igbelewọn yii ko pe fun aṣoju ti idahun le dale lori awọn ipe irinṣẹ ati awọn akiyesi ita. Iru oluranlowo le kuna lati sọ ibi-afẹde lati iranti ṣugbọn gba alaye kanna pada nipasẹ orisun ita. Iyatọ jẹ pataki nitori idahun ti o ṣe akiyesi le wa paapaa nigbati idahun inu inu awoṣe ti yipada. Ninu eto yẹn, iṣiro awoṣe laisi iṣiro awọn iṣe rẹ le padanu ipa-ọna nipasẹ eyiti a ti gba ibi-afẹde naa pada.
Ọna ti a dabaa, UnLearning Tool Agent, ni awọn ipele meji. Lákọ̀ọ́kọ́, ẹ̀rọ náà ń kan ìmọ̀ ẹ̀kọ́ parametric tí a pinnu láti dín ìrántí tààràtà kù. Ẹlẹẹkeji, o nlo ikẹkọ imudara ipele-itọpa ni awọn agbegbe ti a ṣe afikun ohun elo. Gẹgẹbi áljẹbrà iwe naa, ipele yii jẹ ijiya mejeeji ihuwasi irinṣẹ wiwa ibi-afẹde ati jijo ni idahun ikẹhin. Ibi-afẹde ni lati dinku imularada nipasẹ awọn iṣe aṣoju, kii ṣe nipasẹ awọn ayipada nikan si awọn iwọn awoṣe. Eyi jẹ ki ọna ti aṣoju ti awọn ipinnu jẹ apakan ti iṣoro ti ko kọ ẹkọ, pẹlu yiyan lati wa alaye ati ọna ti ohun elo ti a gba wọle ti wa ni idapo sinu esi kan.
Awọn onkọwe ṣe ijabọ awọn adanwo lori RWKU ati MUSE awọn aṣepari ti ko kọ ẹkọ kọja oriṣiriṣi awọn faaji awoṣe-ede. Wọn sọ pe ọna naa ṣaṣeyọri iwọntunwọnsi to dara julọ laarin igbagbe ibi-afẹde ti a pinnu ati idaduro ohun elo deede fun imọ ti o yẹ ki o wa. Orisun ti a pese ko pese awọn abajade nọmba, awọn orukọ awoṣe, awọn idiyele ikẹkọ, awọn afiwe ipilẹ tabi awọn alaye ti awọn irinṣẹ ti a fiwe si, nitorinaa agbara ati ipari ti ilọsiwaju ti a royin ko le ṣe iṣiro lati inu ailẹgbẹ nikan. Awọn ifasilẹ yẹn fi abajade ti o ni oye ti o dara julọ silẹ bi igbero iwadii pẹlu awọn adanwo ti a royin, dipo bi ẹri pe ọna naa ti ni ifọwọsi kọja awọn eto ti a fi ranṣẹ.
Awọn alaye orisun: arxiv.org ↗
Kini idi ti o ṣe pataki
Iwe naa ṣe afihan aabo to wulo ati iṣoro aṣiri fun awọn ọna ṣiṣe ti o darapọ awọn awoṣe ede pẹlu awọn irinṣẹ ita. Yiyọ imo kuro lati awọn paramita awoṣe le ma to ti aṣoju kan tun le wa tabi tun ibi-afẹde naa ṣe nipasẹ awọn irinṣẹ agbegbe rẹ.
Awọn ọrọ wiwa nitori wiwọle ọpa ṣe iyipada ohun ti o tumọ si fun eto AI lati gbagbe nkan kan. Awoṣe le ma ṣe koodu koodu mọ tabi ṣe ẹda alaye kan taara, sibẹ aṣoju pipe le tun gbejade nipasẹ wiwa, gba pada tabi beere ibeere data ti o sopọ. Fun awọn ọna ṣiṣe mimu ti ara ẹni, ohun-ini tabi bibẹẹkọ alaye ihamọ, ẹyọkan igbelewọn ti o yẹ le nitorinaa jẹ iṣan-iṣẹ aṣoju ni kikun dipo awoṣe ni ipinya. Wiwo gbooro yii tẹle alaye naa nipasẹ gbogbo ọna ti o le gbejade idahun, dipo ki o tọju awọn paramita awoṣe bi orisun ti o ṣeeṣe nikan.
Iyatọ naa tun ni awọn itọsi fun bii awọn ajo ṣe tumọ piparẹ tabi awọn ẹtọ yiyọ kuro. Ti ibeere kan ba jẹ ipinnu lati ṣe idiwọ fun aṣoju lati ṣe agbejade ibi-afẹde kan pato, iyipada awọn paramita awoṣe nikan le fi ipa-ọna omiiran silẹ ni ṣiṣi. Iwe naa ko fi idi rẹ mulẹ pe eyikeyi eto imuṣiṣẹ lọwọlọwọ kuna ni ọna yii, ṣugbọn o funni ni fireemu igbelewọn nja kan fun idanwo boya awọn irinṣẹ aṣoju kan ba ilana ikẹkọ jẹ. Fireemu yẹn le ṣe iranlọwọ lati ya iyipada ninu ohun ti awoṣe ṣe iranti lati iyipada ninu kini eto ti o pejọ le tun gba. O tun tọju ipari ti ibeere yiyọ kuro ti o somọ ihuwasi awọn olumulo le ṣe akiyesi ni otitọ.
Iṣowo imọ-ẹrọ ti o nira wa ninu ibi-afẹde ti a dabaa. Lilo irinṣẹ nigbagbogbo jẹ pataki fun aṣoju lati dahun awọn ibeere nipa alaye ti o yẹ ki o da duro. Ijiya-wiwa irinṣẹ pupọ le ba ihuwasi iwulo jẹ, lakoko ti ijiya diẹ diẹ le jẹ ki ibi-afẹde ti o gbagbe pada wa. Ero ti iwe ti a sọ fun titọju imọ ti o ni idaduro jẹ ki iṣowo-pipapa han gbangba, ṣugbọn orisun ko ṣe afihan bi ọna ti o ṣe le ṣe mu awọn ibeere alaiṣedeede, awọn ibeere aiṣe-taara tabi awọn irinṣẹ ti o ni alaye agbekọja. Ọna ti o wulo gbọdọ nitorina ni idiwọ ipa-ọna ti aifẹ lakoko ti o tẹsiwaju lati ṣe atilẹyin fun lilo ohun elo ti o jẹ ẹtọ, iwọntunwọnsi ti a ko le ni oye lati inu abọtẹlẹ nikan.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Kini lati wo tókàn
Ibeere agbedemeji jẹ boya ọna ti a royin ṣe gbogbogbo kọja awọn agbegbe ti a ṣe afiwe iwe ati awọn ipilẹ. Awọn alaye diẹ sii ni a nilo lori alaye ibi-afẹde, awọn atunto irinṣẹ, awọn ile ayaworan awoṣe, iwọn-iṣowo-iwọn ati boya ọna naa n ṣiṣẹ ni igbẹkẹle laisi idilọwọ lilo ohun elo to tọ.
Iwe kikun yẹ ki o ṣalaye ohun ti o ṣe pataki bi igbagbe aṣeyọri. Awọn alaye pataki pẹlu boya awọn sọwedowo igbelewọn nikan ni ibi-afẹde ibi-afẹde gangan tabi awọn asọye, awọn idahun aiṣe-taara ati atunkọ-igbesẹ pupọ. O yẹ ki o tun fihan bi ọna naa ṣe ṣe iyatọ si wiwa ibi-afẹde ti a ko gba laaye lati igbapada ẹtọ ti oye idaduro ti o ni ibatan, nitori iyatọ yẹn yoo pinnu boya ọna naa wulo. Apẹrẹ igbelewọn yoo ṣe pataki bi abajade akọle: idanwo dín le fihan pe idahun kan pato ti dinamọ laisi fifihan pe alaye ti o wa labẹ ko le de ọdọ ọna miiran. Awọn asọye mimọ yoo jẹ ki iwọntunwọnsi ijabọ laarin igbagbe ati iwulo rọrun lati tumọ.
Atunse yoo jẹ pataki nitori awọn adanwo ti a royin lo RWKU ati MUSE ati awọn agbegbe ti a ṣe afikun ohun elo. Awọn oluka yẹ ki o wa awọn idanwo pẹlu awọn iru irinṣẹ oriṣiriṣi, awọn eto igbapada, awọn apoti isura infomesonu ati awọn idile awoṣe, pẹlu awọn igbelewọn ti a ṣe ni ita iṣeto ikẹkọ awọn onkọwe. Afoyemọ naa ko sọ boya koodu, awọn agbegbe tabi awọn awoṣe ikẹkọ wa, nitorinaa atunṣe jẹ aimọ lọwọlọwọ. Idanwo olominira yoo tun ṣe iranlọwọ lati pinnu boya ọna naa da lori ọna pato ti awọn irinṣẹ afọwọṣe ṣe afihan alaye tabi boya awọn ihamọ rẹ wa ni imunadoko nigbati eto agbegbe ba tunto yatọ. Laisi afiwe yẹn, gbogbogbo ti ọna naa jẹ ibeere ṣiṣi.
Awọn igbelewọn ọjọ iwaju yẹ ki o wọn mejeeji aabo ati iwulo lori awọn itọpa aṣoju gigun. Eto ti o ṣe idiwọ jijo taara ni awọn idanwo kukuru le huwa yatọ nigbati o le gbero, tun gbiyanju, pe awọn irinṣẹ pupọ tabi darapọ awọn akiyesi apakan. Orisun naa tun jẹ ki o ṣii boya Imọ-ẹkọ Ọpa Agent le koju alaye ti a daakọ sinu awọn atọka irinṣẹ tabi awọn apoti isura infomesonu funrara wọn, ati boya o le lo si awọn aṣoju ti a fi ranṣẹ laisi atunṣe awọn eto agbegbe wọn. Awọn ibeere wọnyi so ilana ipele awoṣe pọ si agbegbe ti o gbooro ninu eyiti imularada le waye. Wọn tun tọka idi ti iṣafihan aṣeyọri yoo nilo lati ṣayẹwo mejeeji ohun ti aṣoju kọ lati ṣafihan ati iru alaye ti o wulo ti o tẹsiwaju lati gba.