Maxaa dhacay
Daraasad cusub oo lagu daabacay arXiv ayaa baareysa xiriirka ka dhexeeya hagaajinta hagaajinta-ku-beddelka matalaadda ee Models Language Large Language (LLMs) iyo qaybaha sababa ee mas'uulka ka ah waxqabadka shaqada, sida lagu aqoonsaday EAP (Edge Attribution Patching).
Daraasadu waxay eegaysaa sida hagaajinta hagaajinta ay dib ugu habayso hababka gudaha, gaar ahaan diiradda saaraya qaababka dareenka iyo dhaqdhaqaaqyada lakabka-xikmad leh. Isticmaalka EAP, cilmi-baarayaashu waxay aqoonsadeen qaybo gaar ah-sida madax-fiirsasho iyo hawl-qabad heer-Logit-kuwaas oo si toos ah u dhaqaajiya waxqabadka hawsha.
Cilmi-baadhayaashu waxay ogaadeen in qaybahan hawsha la xidhiidha ay ku urursan yihiin lakabyo gaar ah, iyagoo soo jeedinaya heerka meelaynta shaqada. Si kastaba ha ahaatee, lakabyada lagu sameeyo isbeddelada matalaadda ee ugu muhiimsan inta lagu jiro hagaajinta wanaagsani kuma habboona lakabyada ka kooban qaybahan sababaha.
Daraasadu waxay sii sahamisay waxqabadka shaqo-is-dhaafsiga. Waxay ogaatay in xitaa marka ay hawluhu wadaagaan darajo sare oo isku-kordhin ah qaybahooda sababa ee EAP-aqoonsaday, tani ma dammaanad qaadayso wareejinta waxqabadka togan. Xaaladaha qaarkood, hagaajinta hal hawl ayaa dhab ahaantii hoos u dhigtay waxqabadka mid kale, inkastoo qaab-dhismeedka sababaha la wadaago.
Faahfaahinta isha: arxiv.org ↗
Maxay muhiim u tahay
Cilmi-baadhistani waxay caqabad ku noqonaysaa malo-awaalka ah in wax-ka-beddelka qaabka gudaha ee la taaban karo inta lagu jiro hagaajinta hagaajintu ay lagama maarmaan u yihiin ama faa'iido u leeyihiin waxqabadka hawsha. Iyadoo la muujinayo in isbeddellada matalaadda inta badan laga soocay hababka sababaha, daraasaddu waxay muujineysaa waxtar la'aan weyn oo ka jirta tusaalooyinka tababarka hadda. Waxay soo jeedinaysaa in hagaajinta hagaajintu ay si badheedh ah u carqaladayn karto xasilloonida moodeelka, sida caddaynta helitaanka qaybaha sababa ee is-daba-jooga ee u dhexeeya hawlaha ay u horseedi karaan hoos u dhac ku yimaada waxqabadka halkii ay ka ahaan lahayd wareejin wanaagsan.
Kala soocida isbeddelada matalaadda ee muhiimadda sababta keentay waxay soo jeedinaysaa in hababka hagaajinta wanaagsan ee hadda jira ay noqon karaan 'qeylo,' wax ka beddelka qaybo ka mid ah qaabka aan wax ku biirin natiijooyinka hawsha la rabo. Tani waxay ku siinaysaa aasaas aragtiyeed sababta hagaajinta hagaajintu ay u horseedi karto iloobin masiibo ah ama hoos u dhac waxqabad lama filaan ah.
Ogaanshaha in qaybaha sababa ee is dulsaaran ay u horseedi karaan hoos u dhac ku yimaada waxqabadka ayaa si gaar ah muhiim ugu ah barashada hawlo badan. Waxay tusinaysaa in si fudud qaybsiga qaybaha u dhexeeya hawluhu aanay ku filnayn guusha iyo in dabeecadda hawlaha (tusaale, kala soocidda iyo jiilka) ay door muhiim ah ka ciyaaraan sida qaybahan ay u falgalaan.
Shaqadani waxay siisaa qaab-dhismeed loogu talagalay horumarinta si ay si fiican u qiimeeyaan waxtarka leh ee tuubooyinkooda hagaajinta wanaagsan, taas oo keeni karta habab tababar oo waxtar leh oo diiradda saaraya wax ka beddelka kaliya qaybaha sababaha ugu habboon.
Farsamaynta Is-dhexgalka: Sida Dhabta Ay U Shaqeyso
U baadh tignoolajiyada hoose ee ka dambeeya horumarkan si isdhexgal leh.
In AI, what are a model's "parameters"?
Maxaa la daawan doona xiga
Cilmi-baadhis mustaqbalka ah oo lagu sameeyo habab hagaajin-fiicnaaneed oo la beegsado oo mudnaanta siiya qaybaha sababaha marka loo eego cusboonaysiinta matalaadda ballaadhan, iyo haddii natiijooyinkani ay hayaan qaabab kala duwan oo qaab-dhismeedyo ka baxsan kuwa daraasadda lagu tijaabiyey.
Daraasaddu ma qeexdo moodooyinka saxda ah ee la tijaabiyay ama helitaanka koodka loo isticmaalo falanqaynta EAP, taasoo ka tagaysa hirgelinta la taaban karo ee xirfadlayaasha aan hadda la garanayn.
Goob-joogayaashu waa inay eegaan bal in natiijooyinkani horseedi karaan horumarinta farsamooyinka hagaajinta 'sababta ka warqaba' taasoo ujeeddadeedu tahay in la yareeyo isbeddellada wakiillada ee aan loo baahnayn.
Waa la arki doonaa haddii natiijooyinkani yihiin kuwo iswaafaqsan oo ku saabsan cabbirrada moodeelka iyo qaab-dhismeedka kala duwan, ama haddii ay gaar u yihiin moodooyinka lagu falanqeeyay cilmi-baaristan.