Sayansi Kubwa na Mfano wa BLOOM
BigScience ilikuwa ushirikiano wa utafiti wazi wa mwaka mzima wa zaidi ya watafiti 1,000 ambao ulitoa BLOOM, mojawapo ya miundo ya kwanza ya lugha nyingi, iliyotolewa kwa uwazi.
Muhtasari
It matters as a landmark in transparent, community-driven AI built outside Big Tech.
Dive ya kina
BigScience ilikuwa warsha ya utafiti ya mwaka mmoja iliyoanza 2021 hadi 2022, iliyoratibiwa na Hugging Face na kuwaleta pamoja watafiti wa kujitolea zaidi ya 1,000 kutoka zaidi ya nchi 60 na taasisi 250. Kichwa chake cha habari, kilichotolewa mnamo Julai 2022, kilikuwa BLOOM, modeli ya lugha inayojirudia ya kigezo cha bilioni 176. BLOOM alikuwa na lugha nyingi kimakusudi, alifunzwa kwenye kundi la ROOTS linalojumuisha lugha asilia 46 na lugha 13 za programu, na uwakilishi mkubwa wa lugha zisizo na uwakilishi mdogo kama vile lugha kadhaa za Kiafrika na Kusini mwa Asia. Mafunzo yaliendelea kwa miezi kadhaa kwenye kompyuta kuu ya Jean Zay iliyofadhiliwa na umma nchini Ufaransa kwa kutumia takriban 384 GPU. BLOOM ilitolewa chini ya Leseni ya Kuwajibika ya AI ikiwa na hati kamili ya data yake, mafunzo, na matumizi yaliyokusudiwa, tofauti kabisa na ukuzaji uliofungwa wa miundo inayolingana.
Ufahamu wa Kiufundi
BLOOM ni kibadilishaji cha avkodare pekee chenye mizani sawa na GPT-3, kwa kutumia upachikaji wa nafasi za ALiBi badala ya vekta za nafasi zilizofunzwa, ambayo huisaidia kuzidisha mifuatano mirefu kuliko inavyoonekana kwenye mafunzo. Pia inatumika urekebishaji wa safu ya upachikaji ambao uliboresha uthabiti wa mafunzo kwa kiwango. Kongamano la ROOTS la lugha nyingi lilikusanywa kwa uangalifu na kurekodiwa ili mchanganyiko wa lugha na vyanzo vya data viwe wazi na vinaweza kukaguliwa, kuondoka kimakusudi kutoka kwa hifadhidata zisizo wazi.
Athari za kimkakati
Vendor strategy
Ramani za barabara za wachuuzi huathiri vipengele ambavyo timu yako inaweza kuunda baadaye.
Cost and budget
Masharti ya kibiashara na chaguzi za kupeleka huathiri gharama na hatari ya muda mrefu.
Risk and safety
Vivutio vya kampuni hutengeneza chaguo-msingi za bidhaa, mkao wa usalama na uwazi.
Mustakabali wa Sayansi Kubwa na Mfano wa BLOOM
BigScience ilionyesha kuwa AI ya kiwango kikubwa, inayotawaliwa kwa uwazi inawezekana, na mtindo wake uliathiri matoleo wazi ya baadaye na msukumo mpana wa uwazi. Kazi ya siku zijazo ya lugha nyingi huenda ikajengwa juu ya masomo yake katika uhifadhi wa data na ujumuishaji wa lugha shirikishi, ilhali miundo mipya na bora zaidi imeipita BLOOM kwa uwezo wake ghafi. Urithi wake wa kudumu ni kawaida ya uchapishaji wa kadi za kielelezo, taarifa za data na leseni zinazowajibika, pamoja na uthibitisho kwamba komputa ya umma inaweza kutoa mafunzo kwa miundo ya mizani ya mipaka.
Utekelezaji wa Ulimwengu Halisi
Kuzalisha na kukamilisha maandishi katika lugha nyingi, ikiwa ni pamoja na zile ambazo hazitumiki sana na miundo ya kibiashara
Inatumika kama msingi wazi wa utafiti wa kusoma upendeleo, uhamishaji wa lugha nyingi, na tabia ya kuongeza
Kurekebisha vyema kazi mahususi au vibadala vya kufuata maelekezo kama vile BLOOMZ kwa jumuiya zisizo za Kiingereza.
Kutoa kielelezo kilichoandikwa kikamilifu kwa wasomi wanaosoma asili ya data ya mafunzo na leseni ya AI inayowajibika
Hatari & Walinzi
Matangazo ya uzinduzi yanaweza kushinda uthabiti katika utendakazi halisi wa uzalishaji.
Bei za API au mabadiliko ya sera yanaweza kuvunja mawazo mara moja.
Utegemezi wa muuzaji mmoja huongeza gharama za kufunga na kuhama.
Ramani ya Utekelezaji
Tathmini watoa huduma kwa kutumia kazi na seti zako za data.
Kagua faragha, usalama na masharti ya kisheria kabla ya kuunganishwa.
Dumisha mpango mbadala kwa miundo au wachuuzi.
Fuatilia maelezo ya toleo ili mabadiliko ya ramani ya barabara yasiwashangaze timu.
Endelea Kuchunguza
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the BigScience and the BLOOM Model quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Mwongozo unaofuata
Miundo ya Msimbo wa Muktadha Mrefu wa AI
Maswali yanayoulizwa mara kwa mara
What is BigScience and the BLOOM Model?
BigScience ilikuwa ushirikiano wa utafiti wazi wa mwaka mzima wa zaidi ya watafiti 1,000 ambao ulitoa BLOOM, mojawapo ya miundo ya kwanza ya lugha nyingi, iliyotolewa kwa uwazi. Ni muhimu kama alama kuu katika AI ya uwazi, inayoendeshwa na jamii iliyojengwa nje ya Big Tech.
Je, lengo kuu la kutofautisha la muundo wa BLOOM lilikuwa lipi ikilinganishwa na miundo ya ukubwa sawa wa wakati wake?
BLOOM iliundwa ili iwe ya lugha nyingi kikweli na ilitolewa kwa uwazi ikiwa na hati kamili, tofauti na miundo iliyofungwa ya mizani kulinganishwa.
Takriban BLOOM ina vigezo vingapi?
BLOOM ni modeli ya kigezo cha bilioni 176, ikiiweka kwa kiwango sawa na GPT-3.
BLOOM alifunzwa kushughulikia lugha ngapi za asili?
Kongamano la mafunzo la BLOOM's ROOTS lilijumuisha lugha 46 za asili pamoja na lugha 13 za programu.
Ni shirika gani liliratibu ushirikiano wa BigScience?
Hugging Face iliratibu BigScience, warsha ya zaidi ya watafiti 1,000 wa kujitolea.
BLOOM alifunzwa wapi?
BLOOM alifunzwa kwenye kompyuta kuu ya Jean Zay nchini Ufaransa, kuonyesha kwamba komputa ya umma inaweza kutoa mafunzo kwa mtindo wa mizani ya mipakani.