Preprint inapendekeza kunereka kwa ndani ili kufanya utabiri wa AI wa kisanduku cheusi ufasirike zaidi

Nini kilitokea

Watafiti wanapendekeza kunereka kwa ndani, njia ambayo kisanduku cheusi cha AI hufanya kazi kama mwalimu kwa kielelezo cha kawaida cha mwanafunzi kilichoundwa kwa kila hoja. Gazeti hilo linaripoti kuwa mbinu hiyo inakaribia kufanana na usahihi wa mwalimu katika seti 17 za viwango vya data huku ikitoa mifano michache inayoweza kufasiriwa ndani ya nchi.

Karatasi iliyowasilishwa kwa arXiv mnamo Agosti 24 inapendekeza mbinu inayoitwa kunereka kwa ndani kwa ajili ya kutafsiri ubashiri kutoka kwa mifumo ya AI ya kisanduku cheusi. Waandishi huzingatia miundo ya kisasa kama vile miundo ya msingi ya jedwali na ensembles zilizoimarishwa kwa upinde rangi, ambazo wanazielezea kuwa zinazoweza kuwa sahihi zaidi kuliko mbinu za kitamaduni lakini ni ngumu kuzifikiria. Mfumo wao unaopendekezwa huunda kielelezo tofauti cha mstari cha "mwanafunzi" karibu na kila sehemu ya hoja, na mfumo wa kisanduku cheusi unaotumika kama "mwalimu."

Mbinu inafafanua kile kinachohesabiwa kuwa cha kawaida kwa njia inayotegemea matokeo. Huongeza uchunguzi wa mafunzo ambao matokeo yake yaliyotabiriwa ni sawa na utabiri unaofafanuliwa, badala ya kutegemea tu umbali katika nafasi ya kipengele cha asili. Pia inajumuisha utabiri wa mwalimu katika sehemu ya hoja kama uchunguzi wa uwongo uliowekewa uzito, unaoweka msimbo wa mstari wa ndani kwa matokeo ya kisanduku cheusi. Chanzo kinasema uzito wa uchunguzi huo wa uwongo unakadiriwa kutoka kwa data.

Kwa tafsiri, waandishi huongeza kiasi kidogo cha randomization ya Gaussian kwa lengo la ndani na kurekebisha mfano wa mwanafunzi mara kwa mara. Wanatumia masafa ya uteuzi wa vipengele ili kutambua vipengele vinavyoonekana kwa uhakika katika sehemu fulani ya hoja. Pia hukusanya uwekaji nasibu ili kutambua vikundi vidogo vilivyo thabiti kote kwenye data. Chini ya adhabu ya lasso, karatasi inasema inathibitisha kwamba uwezekano wa uteuzi wa kipengele unabaki thabiti chini ya usumbufu mdogo wa majibu ya mafunzo.

Katika seti 17 za viwango vya data, waandishi wanaripoti kuwa kunereka kwa karibu kunalingana na usahihi wa mwalimu wa AI huku wakitoa kielelezo kidogo cha mstari kwa kila sehemu ya jaribio. Katika mfano wa usemi wa jeni wa saratani wenye mwelekeo wa juu, mfumo huo unabainisha vikundi vidogo vya wagonjwa ambavyo miundo ya ndani hutumia jeni tofauti. Waandishi wanasema aina hii ya heterogeneity haionekani kwa mtindo wa mstari wa kimataifa na ni vigumu kuonekana moja kwa moja katika mfano wa sanduku nyeusi. Chanzo hakitoi alama mahususi za benchmark, majina ya seti ya data au matokeo ya kimatibabu katika mukhtasari.

Maelezo ya chanzo: arxiv.org ↗

Kwa nini ni muhimu

Mbinu hii inalenga tatizo kuu katika viwango vya juu vya AI: mfumo unaweza kutabiri kwa usahihi bila kuweka wazi kwa nini ulifikia matokeo fulani. Ufafanuzi wa eneo lako unaweza kuwasaidia watumiaji kuchunguza vipengele ambavyo ni muhimu kwa utabiri wa mtu binafsi na kama vikundi tofauti hupokea maamuzi kwa sababu tofauti.

Ufasiri ni muhimu hasa wakati utabiri wa AI unaweza kuathiri matibabu ya mtu, kustahiki, tathmini ya hatari, au ufikiaji wa huduma. Ufafanuzi mmoja wa kimataifa unaweza kumaanisha kuwa vigezo sawa huendesha kila uamuzi, hata wakati mfano unatenda tofauti katika maeneo ya data. Mbinu ya ndani ya karatasi imeundwa kufichua tofauti hizo kwa kuweka maelezo machache karibu na kila utabiri.

Muundo unaopendekezwa unaweza kuwapa wachanganuzi kitu mahususi zaidi cha kukagua kuliko cheo cha jumla cha umuhimu wa kipengele. Muundo wa mstari wa ndani unaweza kuonyesha mwelekeo na mchango wa jamaa wa vipengele vilivyochaguliwa karibu na hoja moja, huku urekebishaji unaorudiwa ukitoa njia ya kutofautisha vipengele vinavyojirudia na vile vinavyoonekana kwa sababu tu ya mabadiliko madogo katika mchakato wa kufaa. Haya ni madai kuhusu muundo wa mbinu na majaribio yaliyoripotiwa, si ushahidi kwamba maelezo ni sahihi kiotomatiki.

Matokeo ya kikundi kidogo yanaweza kuwa muhimu kwa sababu yanaunganisha ufasiri na utofauti wa kielelezo. Katika mfano wa usemi wa jeni la saratani, karatasi inaripoti kwamba vikundi tofauti vya wagonjwa vilihusishwa na mifano ya ndani kwa kutumia jeni tofauti. Ikiigwa, matokeo kama haya yanaweza kusaidia watafiti kuchunguza ikiwa mfumo wa AI unategemea mifumo tofauti katika sehemu tofauti za mkusanyiko wa data badala ya kutibu utabiri wake kama sheria moja.

Mbinu hiyo pia inashughulikia ubadilishanaji wa vitendo kati ya usahihi na uwazi. Kubadilisha muundo changamano na ukadiriaji wa mstari mmoja wa kimataifa kunaweza kupunguza uaminifu, huku kutegemea kisanduku cheusi pekee kunaweza kufanya maamuzi ya mtu binafsi kuwa magumu kukagua. Ucheshi wa ndani hujaribu kuhifadhi tabia ya utabiri wa mwalimu karibu na kila hoja huku ukiwasilisha muundo mdogo ambao watu wanaweza kukagua. Chanzo hakitambui ikiwa ubadilishanaji huu unashikilia mifumo ya wakati halisi, utiririshaji wa kazi uliodhibitiwa, au maamuzi yanayohusisha madhara makubwa ya kibinadamu.

Nini cha kutazama baadaye

Kazi hii ni chapa ya awali ya arXiv, na chanzo hakiainishi mapitio ya programu zingine, urudufishaji huru, uwekaji, au utendaji katika mipangilio ya uendeshaji. Maswali muhimu yaliyo wazi ni pamoja na jinsi maelezo yanavyosalia chini ya mabadiliko katika data, jinsi mbinu inavyofanya kazi vizuri zaidi ya viwango vilivyoripotiwa, na kama watumiaji wanatafsiri miundo ya karibu kwa njia ipasavyo.

Kizuizi cha haraka ni hali ya ushahidi wa kazi. Chanzo kinabainisha jarida hili kama wasilisho la arXiv na kuripoti madai ya kihisabati na kijaribio ya waandishi, lakini hakiandiki mapitio ya marika, urudufishaji huru, kulinganisha na mbinu zote kuu za ukalimani, au matumizi katika mfumo wa moja kwa moja wa kufanya maamuzi. Matokeo yaliyoripotiwa kwa hiyo yanapaswa kuchukuliwa kama matokeo ya awali ya utafiti.

Tathmini za siku zijazo zinapaswa kupima kama maelezo ya eneo lako ni thabiti wakati usambazaji wa data msingi unapobadilika, vipengele vinapounganishwa na wakati muundo wa mwalimu umefunzwa upya. Matokeo ya uthabiti wa karatasi yanahusu misukosuko midogo ya majibu ya mafunzo chini ya usanidi wake wa nasibu wa lasso; ambayo yenyewe haiashirii uimara wa vigeu vinavyokosekana, mabadiliko ya usambazaji, hitilafu ya kipimo, au mabadiliko katika muundo wa usanifu.

Mfano wa saratani pia unahitaji ufuatiliaji wa uangalifu. Kutambua jeni zinazotumiwa na miundo tofauti ya ndani hakuthibitishi kwamba jeni hizo husababisha matokeo ya mgonjwa au kwamba vikundi vidogo vinavyotokana vina maana ya kimatibabu. Chanzo hakiripoti uthibitishaji wa kimatibabu, majaribio yanayotarajiwa, athari za matibabu au ushahidi kwamba mbinu hiyo inaboresha maamuzi ya matibabu. Hizo zisizojulikana ni muhimu kabla ya mbinu inaweza kuwajibika kutoa huduma ya mgonjwa.

Kupitishwa kwa vitendo kutategemea ikiwa watumiaji waliokusudiwa wanaweza kuelewa na kutoa changamoto kwa miundo ya ndani bila kukosea kwa maelezo kamili ya jinsi mwalimu wa kisanduku cheusi hufanya kazi. Maelezo muhimu ambayo hayajatolewa katika chanzo ni pamoja na gharama ya kukokotoa, ni vipengele vingapi kwa kawaida huishi kwenye adhabu ya sparsity, jinsi maelezo yanalinganishwa na misingi rahisi zaidi, na kinachotokea wakati utoshelevu wa ndani si thabiti au unakinzana. Maswali hayo yataamua kama kunereka kwa ndani kunakuwa zana muhimu ya ukaguzi au inabakia kuwa mbinu ya utafiti.

Miongozo & maswali yanayohusiana