InayofuataMwongozo unaofuata
Uchimbaji wa Uhusiano kutoka kwa Maandishi
Lugha AI
Lugha AI MWONGOZO
T5 (Kigeuzi cha Kubadilisha Maandishi hadi Maandishi), kutoka Google mwaka wa 2019, huweka upya kila kazi ya NLP, tafsiri, muhtasari, uainishaji, hata urejeshaji, kama kulisha maandishi na kutoa maandishi.
Sikiliza mwongozo huuInaonyeshwa na AI · ~2 min
Umbizo hili moja lililounganishwa huruhusu muundo mmoja na kichocheo kimoja cha mafunzo kushughulikia kazi nyingi.
Wazo kuu la T5 ni kwamba kazi yoyote ya lugha inaweza kutupwa kama maandishi-kwa-maandishi: ingizo ni mfuatano ulio na kiambishi awali cha kazi, na matokeo ni kamba kila wakati. Tafsiri inakuwa 'tafsiri Kiingereza hadi Kijerumani: ...' ikitoa maandishi ya Kijerumani; hisia huwa 'sentensi ya sst2: ...' ikitoa neno halisi 'chanya' au 'hasi'. Inatumia Kibadilishaji Kinasasishaji-simbuaji kamili, tofauti na BERT ya kisimbaji pekee au GPT ya kisimbaji pekee. T5 ilifundishwa mapema kwenye kundi la C4 (Colossal Clean Crawled Corpus, ~ 750GB ya maandishi ya wavuti yaliyosafishwa) kwa lengo la upotovu wa muda mrefu: safu za nasibu za tokeni hufunikwa na kubadilishwa na tokeni za sentinel, na muundo hujifunza kutengeneza nafasi zinazokosekana. Utafiti unaoandamana kwa utaratibu ulilinganisha usanifu, malengo, na saizi za seti ya data ili kupata kinachohawilishwa vyema zaidi.
Muhtasari wa muhtasari: kiambishi awali cha 'muhtasari:' kabla ya makala kufanya T5 kutoa muhtasari mfupi kwa maneno yake yenyewe.
Tafsiri ya mashine: muundo mmoja wa T5 hushughulikia jozi nyingi za lugha kupitia viambishi awali kama vile 'tafsiri Kiingereza hadi Kifaransa:'.
FLAN-T5 hufuata maagizo ya lugha asilia ya kujibu maswali na hoja bila kujizoeza upya kwa kazi mahususi.
Kujibu swali la kitabu kilichofungwa: T5 hujibu maswali ya kweli moja kwa moja kama maandishi yaliyotolewa, kwa kutumia maarifa yaliyohifadhiwa katika uzito wake.
Mtazamo wa maandishi-kwa-maandishi umekuwa na ushawishi mkubwa: vizazi vilivyoratibiwa na maagizo kama vile FLAN-T5 vinajumlisha hadi kazi zisizoonekana kutoka kwa maagizo ya lugha asilia, na umbizo lililounganishwa lilionyesha modeli za lugha kubwa zinazoendeshwa kwa haraka. Tarajia matumizi endelevu ya programu za kusimbua za T5 kwa muhtasari, tafsiri na uundaji muundo, pamoja na vibadala vya lugha nyingi kama vile mT5 na vifuatavyo vinavyozingatia ufanisi, hata kama miundo ya kisimbuzi pekee hutawala programu za gumzo zisizo na mwisho.
Jarida halali
Hadithi tatu za AI zilizothibitishwa kila asubuhi ya wiki, zimetengenezwa kwa Kiingereza rahisi. Bila malipo daima, hakuna matangazo.
Barua pepe moja kila siku ya wiki. Jiondoe kwa bonyeza moja. Hatutauza au kushiriki anwani yako.
Jijaribu mwenyewe
Maoni ya haraka juu ya kila jibu, na cheti kinachoweza kushirikishwa na kitambulisho kinachoweza kuthibitishwa baada ya kupita kozi.
Changia elimu ya AI bila malipo. AI Understanding ni 501(c)(3) isiyo na faida — hakuna matangazo, hakuna kizuizi cha malipo, daima. Toa mchango
T5 (Kigeuzi cha Kubadilisha Maandishi hadi Maandishi), kutoka Google mwaka wa 2019, huweka upya kila kazi ya NLP, tafsiri, muhtasari, uainishaji, hata urejeshaji, kama kulisha maandishi na kutoa maandishi. Umbizo hili moja lililounganishwa huruhusu muundo mmoja na kichocheo kimoja cha mafunzo kushughulikia kazi nyingi.
T5 huweka tafsiri, muhtasari, uainishaji, na zaidi katika umbizo moja la maandishi hadi maandishi kwa kutumia viambishi awali vya kazi.
Tofauti na BERT ya kisimba pekee au GPT ya kusimbua pekee, T5 hutumia Kibadilishaji cha Kisimbaji cha kusimbua pekee chenye umakini mtambuka.
T5 hufunika misururu isiyo ya kawaida ya tokeni, hubadilisha kila mlinzi, na hufunza avkodare ili kuzalisha tena misururu inayokosekana.
T5 ilifunzwa kwenye C4, takriban 750GB iliyosafishwa ya maandishi ya wavuti ya Common Crawl.
Kwa sababu kila kitu ni maandishi-kwa-maandishi, T5 hutoa lebo ya darasa kama mfuatano wa maneno badala ya faharasa ya darasa la nambari.
Endelea kujifunza
Miongozo zaidi imechaguliwa kwa mada hii
InayofuataMwongozo unaofuata
Uchimbaji wa Uhusiano kutoka kwa Maandishi
Lugha AI