Granite.Trust inapendekeza sera zinazoweza kushirikiwa, zinazoweza kutekelezeka kwa programu wasilianifu za AI

Nini kilitokea

Karatasi ya Granite.Trust inatanguliza taratibu za Sera Inayoweza Kutekelezwa, umbizo la msingi la YAML kwa ajili ya kubainisha ni majibu gani ya uzalishaji ya AI yanaweza kuwa na yasiwe nayo. Pia inafafanua bomba la data sanisi kwa ajili ya kuzalisha data ya mafunzo iliyoambatanishwa na sera, pamoja na zana za kufafanua na kutekeleza sera hizo katika kipindi chote cha maisha ya programu.

Karatasi, iliyowasilishwa kwa arXiv mnamo Agosti 24, inawasilisha Zana za Sera ya Granite.Trust kama jibu la kutolingana kati ya mifumo ya kawaida ya udhibiti wa ufikiaji na maombi ya uzalishaji ya AI. Kulingana na mukhtasari, mbinu za kitamaduni hazijaundwa ili kuelezea vikwazo vinavyotokana na maudhui: sheria kuhusu kile ambacho mwitikio wa mwitikio unaweza kuwa na au hauwezi kuwa nao. Waandishi wanasema kuwa mahitaji ya sera yanatofautiana kulingana na muktadha wa maombi, mazingira ya udhibiti, maadili ya shirika na watu binafsi. Chanzo kinawasilisha hili kama tatizo la usanifu kwa mashirika yanayounda au kufanya kazi maombi ya kuzalisha ya AI, badala ya kama dai kuhusu modeli au bidhaa fulani.

Mchango wake mkuu ni utaratibu wa Sera Inayoweza Kutekelezwa inayofafanuliwa kama umbizo la msingi la YAML. Muhtasari unasema utaratibu unakusudiwa kubainisha maudhui yanayoruhusiwa na yaliyopigwa marufuku katika majibu ya mifano. Pia inapendekeza usimamizi wa sera unaozingatia ubaguzi, ambapo vighairi vitatumika kufuatilia ukiukaji wa sera. Chanzo hakitoi sintaksia kamili ya taratibu, mfano wa sera iliyofanyiwa kazi, au onyesho linaloonyesha jinsi jibu mahususi litakavyoainishwa. Kwa hivyo inabainisha kuwepo na madhumuni yaliyokusudiwa ya umbizo, lakini haiashirii jinsi ufunikaji wake ni mpana au ni vigumu kiasi gani kutumia katika mazoezi.

Karatasi inaelezea vipengele viwili vya ziada karibu na schema. Kwanza, inawasilisha bomba la kutengeneza data-sanisi ambalo hutoa data ya mafunzo iliyoambatanishwa na sera kwa ajili ya upatanishi wa kielelezo na majaribio. Pili, inaeleza seti ya zana za kusaidia mashirika kufafanua schema na kutekeleza sera. Muhtasari unasema vipengele hivi vinakusudiwa kuruhusu shirika kubainisha sera mara moja na kuzitumia kutoka kwa mpangilio wa kielelezo kupitia ufuatiliaji wa wakati wa utekelezaji. Pia inasema schema, sera za mfano na zana zinapatikana kama chanzo huria. Chanzo hakitambui hazina katika maandishi yaliyotolewa, hakibainishi leseni ya programu, modeli au mifumo inayotumika, au kuripoti jinsi utekelezaji ulivyokomaa.

Karatasi ni pendekezo na toleo la zana lililofafanuliwa katika mukhtasari wa arXiv, si akaunti iliyothibitishwa kwa kujitegemea ya utendaji wa uzalishaji. Chanzo hakisemi kuwa zana zimepitishwa na mashirika, kujaribiwa katika mifumo ya moja kwa moja, kukaguliwa na watafiti kutoka nje au kutathminiwa dhidi ya alama. Pia haielezi aina za maudhui hatari au yenye vikwazo vinavyofunikwa na sera za mfano. Upungufu huo ni muhimu kwa sababu manufaa ya mfumo wa sera hutegemea maelezo kama vile jinsi inavyoshughulikia utata, sheria zinazokinzana, mabadiliko ya kanuni na kesi ambapo jibu linatii kitaalam lakini bado linapotosha au linadhuru.

Maelezo ya chanzo: arxiv.org ↗

Kwa nini ni muhimu

Pendekezo hilo linashughulikia tatizo la kiutawala la kiutendaji: mashirika na maombi mbalimbali yanakabiliwa na hatari tofauti, lakini chanzo kinasema mbinu zilizopo za udhibiti wa ufikiaji hazizingatii vikwazo vinavyotokana na maudhui katika AI ya uzalishaji. Zana zikifanya kazi kama ilivyoelezwa, zinaweza kuzipa timu njia thabiti zaidi ya kutafsiri sheria za ndani kuwa mafunzo ya kielelezo na udhibiti wa wakati wa utekelezaji.

Utawala zalishaji wa AI mara nyingi unapaswa kufanya kazi katika viwango viwili: kuamua ikiwa mtumiaji au programu inaweza kufikia mfumo, na kuamua ni nini mfumo unaweza kutoa katika muktadha fulani. Mchango wa chanzo unazingatia kiwango cha pili. Madai yake ni kwamba sheria za maudhui zinahitaji uwakilishi ulioundwa kwa ajili ya maombi ya uzalishaji, badala ya kulazimishwa katika miundo ya ruhusa ya jadi. Hiyo ni tofauti thabiti na inayofaa kwa mashirika ambayo yanahitaji kuelezea mahitaji tofauti kwa watumiaji, programu au mazingira tofauti.

Mbinu inayopendekezwa inaweza kufanya mabadiliko ya sera kuwa rahisi kubeba kupitia mzunguko wa maisha wa programu ya AI. Muhtasari unaelezea ubainishaji mmoja wa sera unaotumika kwa upatanishi wa kielelezo, utengenezaji wa data ya mafunzo, majaribio na ufuatiliaji wa wakati wa utekelezaji. Kimsingi, hiyo inaweza kupunguza tofauti kati ya sheria inayotumiwa kufundisha mfumo na sheria inayotumiwa kuufuatilia baada ya kutumwa. Chanzo hakionyeshi kwamba uthabiti huu unapatikana, hata hivyo. Inafafanua utendakazi unaokusudiwa na zana zilizoundwa kuiunga mkono, lakini haitoi ushahidi uliopimwa kuhusu ikiwa sera iliyoandikwa mara moja inatekelezwa sawa katika kila hatua.

Ubunifu wa msingi wa kipekee pia unaweza kuwa muhimu. Muhtasari unasema vighairi vinaweza kutumika kufuatilia ukiukaji wa sera, ikipendekeza mchakato wa utawala ambao unarekodi matukio ambapo matokeo ya mfumo yanakinzana na kanuni iliyobainishwa badala ya kuchukulia sera kama orodha tuli. Rekodi kama hizo zinaweza kuwa muhimu kwa kusahihisha sera, miundo ya majaribio na kutambua mapungufu yanayojirudia. Hiyo ni maana ya muundo ulioelezewa, sio matokeo yaliyoanzishwa na muhtasari wa karatasi. Chanzo hakisemi ikiwa vighairi hukaguliwa na watu, kujumuishwa kiotomatiki katika mafunzo ya baadaye, au kuhusishwa na taratibu za uwajibikaji na urekebishaji.

Thamani ya vitendo itategemea mambo ambayo chanzo huacha bila kutatuliwa. Lugha ya sera lazima iwe mahususi vya kutosha ili kutoa maamuzi thabiti lakini inyumbulike vya kutosha kuelezea mahitaji yanayotegemea muktadha. Data ya syntetisk inaweza kusaidia kuunda mifano ya mafunzo na majaribio, lakini chanzo hakitambui ikiwa mifano hiyo inawakilisha tabia halisi ya mtumiaji au kesi ngumu za makali. Wala haionyeshi ikiwa mbinu hiyo inafanya kazi kwa watoa huduma tofauti wa miundo, mbinu, lugha au aina za programu. Umuhimu wa maslahi ya umma wa karatasi kwa hivyo uko wazi zaidi kama jaribio la kufanya sheria za AI zifanye kazi zaidi, sio kama dhibitisho kwamba shida ya usimamizi imetatuliwa.

Nini cha kutazama baadaye

Chanzo hakiripoti matokeo ya tathmini, ushahidi wa matumizi, usahihi wa utekelezaji wa sera, viwango vya uwongo, au ulinganisho na zana zilizopo za utawala. Ushahidi muhimu unaofuata utakuwa kama utaratibu wa programu huria unaweza kueleza sera changamano kwa kutegemewa na kama sera zitasalia thabiti katika mafunzo, majaribio na matumizi ya muundo wa moja kwa moja.

Suala la kwanza la kutazama ni tathmini. Chanzo kilichotolewa hakiripoti usahihi, ufunikaji, muda wa kusubiri, gharama au vipimo vya kuaminika kwa taratibu za sera, bomba la data sanisi au zana za utekelezaji. Ushahidi muhimu wa ufuatiliaji utajumuisha majaribio dhidi ya sera zilizoandikwa na binadamu, vidokezo vya chuki au utata, na matokeo halisi ya matumizi. Pia itakuwa muhimu kujua ni mara ngapi mfumo huzuia maudhui yanayoruhusiwa, kuruhusu maudhui yasiyoruhusiwa, au kuhitaji ukaguzi wa kibinafsi. Bila vipimo hivyo, madai ya vitendo ya karatasi yanabaki kuwa yanayotarajiwa.

Suala la pili ni uthabiti wa mzunguko wa maisha. Waandishi wanasema sera zinaweza kubainishwa mara moja na kutekelezwa wakati wa upatanishi wa kielelezo, majaribio na ufuatiliaji wa wakati wa utekelezaji. Nyaraka au majaribio ya siku zijazo yanapaswa kuonyesha kama sheria hiyo hiyo hutoa matokeo yanayolingana katika kila mpangilio, hasa wakati muundo msingi, muundo wa papo hapo au programu inayozunguka inabadilika. Chanzo hakisemi jinsi masasisho ya sera yanavyotolewa, jinsi mabadiliko yanakaguliwa, au jinsi mashirika yanaweza kutambua hali ambapo tabia ya muda wa mafunzo inatofautiana na tabia ya wakati wa utekelezaji.

Toleo la chanzo huria pia linahitaji ukaguzi. Chanzo kinasema taratibu, mfano sera na zana zinapatikana kama chanzo huria, lakini maandishi yaliyotolewa hayajumuishi anwani ya hazina, leseni, mazingira yanayotumika au mchakato wa mchango. Maelezo hayo yatabainisha ikiwa pendekezo hilo linaweza kutumika tena zaidi ya maonyesho ya waandishi wake. Watumiaji wa vitendo watahitaji kujua kama inaweza kuunganishwa na mifumo iliyopo ya ukuzaji na ufuatiliaji na ikiwa sera zake zinaweza kukaguliwa na watu ambao si wataalamu wa kujifunza mashine.

Hatimaye, wasomaji wanapaswa kuangalia ushahidi kuhusu upeo na mapungufu. Muhtasari hausemi ikiwa Granite.Trust inashughulikia majibu ya maandishi pekee au inaweza kudhibiti programu za modi nyingi, wala haielezi usaidizi wa lugha nyingi au kanuni za udhibiti. Pia haielezi jinsi mfumo hutatua mizozo kati ya maadili ya shirika, watu binafsi na mahitaji ya kisheria. Hadi maswali hayo yatajibiwa kupitia karatasi kamili, ukaguzi wa msimbo au majaribio ya kujitegemea, hitimisho linalowajibika ni kwamba Granite.Trust inatoa pendekezo thabiti la sera ya chanzo huria ambalo ufanisi na upana wake bado haujulikani.

Miongozo & maswali yanayohusiana