Watafiti hubadilisha zana ya zana ya Dolma ya Ai2 ili kuunda korti bora ya mafunzo ya Thai

Nini kilitokea

Kulingana na Ai2, watafiti wa Thai walitumia zana yake ya wazi ya zana ya Dolma kujenga Mangosteen, shirika la alama bilioni 47 kwa ajili ya kutoa mafunzo ya awali ya modeli za lugha za Kitai. Timu ilisanifu upya sehemu za Dolma ili kuwajibika kwa maandishi ya Kithai, matatizo ya ubora wa data, na vyanzo muhimu vya ndani ambavyo hifadhidata zilizopo nzito kwenye wavuti mara nyingi hazikuweza.

Ai2 inafafanua Mangosteen kama kundi la mafunzo ya awali la Thai lililoundwa na timu ya watafiti wa Thai ambao walitumia Dolma kama mahali pao pa kuanzia. Corpus ina tokeni bilioni 47. Timu ilianza na makusanyo makubwa ya data ya wavuti na ilijaribu kushughulikia udhaifu waliona katika seti za data za Kithai zinazopatikana kwa umma, ikiwa ni pamoja na ukaguzi mdogo wa wazungumzaji wa Kithai, nyenzo zisizofaa, na uwasilishaji wa kutosha wa vitabu, karatasi za utafiti, tovuti rasmi, na manukuu YouTube. Wannaphong Phatthiyaphaibun, aliyetambuliwa na Ai2 kama kiongozi wa mradi na mwanafunzi wa PhD katika Taasisi ya Sayansi na Teknolojia ya Vidyasirimedhi, alisema timu hiyo ilikosa watengenezaji wa kutosha kujenga bomba kamili la utunzaji wa data kutoka mwanzo.

Watafiti waligundua kuwa baadhi ya vipengele vya Dolma havikuweza kuhamishwa moja kwa moja kwa Thai. Hasa, waliripoti kuwa uondoaji wa kiwango cha sentensi na aya uliondoa takriban data zao zote kwa sababu Kitai hakiwekei mipaka ya sentensi kwa njia sawa na Kiingereza. Waliendelea na urudishaji wa hati na kiwango cha URL, wakarekebisha hatua zingine za uchakataji, wakarekebisha vichujio vya ubora, wakabadilisha zana mahususi za lugha na kuongeza sheria za ruwaza katika data ya mtandao ya Thai. Mfano mmoja ulihusisha kurasa za habari za Kithai zilizokuwa na vijisehemu vilivyofupishwa na kufuatiwa na vidokezo vya "Soma Zaidi"; timu iliongeza uchujaji unaokusudiwa kuondoa makala hayo ambayo hayajakamilika.

Katika majaribio yaliyoelezwa na Ai2, bomba lililorekebishwa liliondoa zaidi ya 80% ya data ya Kawaida ya Kutambaza iliyotumiwa kama sehemu ya kuanzia na karibu nusu ya FineWeb2, mkusanyiko ambao chanzo kinaelezea kuwa tayari umesafishwa na kuratibiwa kwa ajili ya mafunzo ya mfano. Timu iliripoti kuwa miundo iliyofunzwa kwenye hifadhidata ndogo, zilizochujwa zilidumishwa au kuboreshwa kwa utendaji ikilinganishwa na miundo iliyofunzwa kwenye seti kubwa zaidi za data. Ai2 pia inasema uboreshaji huo ulifanywa katika miundo mikubwa zaidi na kwamba modeli zilizofunzwa na Mangosteen zilifanya vyema kwenye tathmini za maarifa ya kitamaduni ya Thai. Chanzo hakitoi majina ya tathmini, alama za nambari, usanidi wa miundo au vidhibiti vya majaribio vinavyohitajika ili kutathmini ukubwa na uthabiti wa mafanikio hayo.

Maelezo ya chanzo: allenai.org ↗

Kwa nini ni muhimu

Kazi inaonyesha jinsi ubora wa modeli ya lugha unavyoweza kutegemea ni nani anayesimamia data ya mafunzo na kama zana zinaweza kubadilishwa kulingana na muundo mahususi wa lugha. Timu inaripoti kuwa hifadhidata ndogo, zilizoratibiwa kwa uangalifu zaidi zililingana au kupita matokeo kutoka kwa mikusanyiko mikubwa na utendakazi ulioboreshwa kwenye tathmini za maarifa ya kitamaduni ya Thai.

Umuhimu mkuu ni wa kimbinu: mradi huchukulia uhifadhi wa data-mafunzo kama jambo ambalo linafaa kubadilishwa na watu wanaoelewa lugha na mazingira yake ya habari. Bomba la madhumuni ya jumla linaweza kuhifadhi maudhui muhimu, lakini mawazo yake kuhusu mipaka ya sentensi, urudufishaji, ubora, au muundo wa ukurasa wa wavuti yanaweza kuwa tofauti katika lugha zote. Uzoefu wa timu ya Thai unapendekeza kwamba bomba iliyoundwa karibu na kanuni za lugha ya Kiingereza inaweza kutupa nyenzo muhimu au kuhifadhi nyenzo zisizo na ubora inapotumiwa mahali pengine.

Matokeo yaliyoripotiwa pia yanapinga wazo rahisi kwamba tokeni nyingi za mafunzo hutoa kiotomati miundo bora ya lugha. Ai2 inasema timu iliondoa mkusanyiko mmoja wa wavuti na karibu nusu ya mkusanyiko mwingine huku ikidumisha au kuboresha utendakazi wa mfano. Ikitolewa tena kivyake, hiyo inaweza kuonyesha kuwa uchujaji unaolengwa na uteuzi wa chanzo wakati mwingine unaweza kutoa thamani zaidi kuliko kuongeza maandishi ghafi. Kupunguza nyenzo zisizo na umuhimu au zisizo kamili kunaweza pia kurahisisha kukagua data ya mafunzo, ingawa chanzo hakiripoti mabadiliko katika muda wa mafunzo, matumizi ya nishati au gharama ya jumla.

Uboreshaji ulioripotiwa kwenye tathmini za maarifa ya kitamaduni ya Thai ni muhimu sana kwa uwakilishi. Kielelezo kinaweza kufanya vyema kwenye kazi za lugha ya jumla huku bado hakina marejeleo ya mahali, taasisi, historia au muktadha wa kitamaduni. Timu inafasiri matokeo yake kama ushahidi kwamba data husika ya karibu inaweza kusaidia wanamitindo kuwakilisha jamii wanazohudumia. Hitimisho hilo linasalia kuwa dai kutoka kwa majaribio ya mradi, sio matokeo yaliyothibitishwa katika chanzo hiki. Makala hayatoi maelezo yoyote kuhusu viwango, vikoa vya kitamaduni vilivyojaribiwa, au kama faida zilitokana na utofauti wa vyanzo, uchujaji, kiasi cha data au mabadiliko mengine.

Nini cha kutazama baadaye

Chanzo hakitoi majina ya alama, alama kamili, ukubwa wa modeli, gharama za kukokotoa, maelezo ya leseni ya shirika au urudufishaji huru. Umuhimu wa kiutendaji utategemea ikiwa Mangosteen na bomba lililorekebishwa zitatolewa, kama watafiti wengine wa Thai wanaweza kutoa matokeo, na kama mbinu zinazofanana zitaboresha modeli katika lugha zingine ambazo hazijawakilishwa sana.

Swali la kwanza la kiutendaji ni kama nyenzo za utafiti zinapatikana. Chanzo kinasisitiza uwazi wa Dolma na kinaelezea Mangosteen kama urekebishaji unaoweza kuzalishwa tena, lakini hakisemi kama corpus ya tokeni bilioni 47, sheria za uchujaji, zana mbadala, au msimbo wa tathmini hutolewa hadharani. Mazingatio ya leseni na faragha yanaweza kuathiri kile kinachoweza kusambazwa, hasa kwa sababu chanzo kinasema mradi ulichora kwenye kurasa za wavuti, vitabu, karatasi za utafiti, tovuti rasmi, na manukuu YouTube.

Tathmini ya kujitegemea itakuwa muhimu. Chanzo kinaripoti ulinganisho na Common Crawl na FineWeb2, lakini hakitambui hesabu za vigezo vya miundo, taratibu za mafunzo, mchanganyiko wa data, alama za benchmark, au kutokuwa na uhakika wa takwimu. Kazi ya ufuatiliaji inapaswa kupima ikiwa faida zinaendelea katika uundaji wa lugha, hoja, ukweli, usalama, na kazi zinazofuata maagizo, badala ya tathmini za maarifa ya kitamaduni zilizotajwa na Ai2 pekee. Inapaswa pia kuchunguza ikiwa kuchuja kuliondoa nyenzo halali za lahaja, kieneo, au za jumuiya ya wachache.

Jaribio pana ni kama mbinu hii itahamishiwa kwa lugha nyingine na timu za utafiti zilizo na rasilimali chache za uhandisi. Thamani ya Dolma, kama ilivyowasilishwa hapa, ni kwamba watafiti wanaweza kurekebisha bomba lililopo badala ya kuunda tena. Lakini chanzo hakithibitishi kuwa mabadiliko sawa yatafanya kazi kwa lugha zilizo na mifumo tofauti ya uandishi, mifumo ikolojia ya wavuti, au upatikanaji wa data. Masasisho yajayo yanapaswa kufafanua uwezekano wa kuzaliana tena, usimamizi wa shirika, ufunikaji wa chanzo, tabia ya kielelezo, na ubadilishanaji kati ya umuhimu wa ndani, ubora wa data, uwazi na utumiaji unaowajibika.

Miongozo & maswali yanayohusiana