MWONGOZO wa Makampuni

EleutherAI

EleutherAI ni utafiti wa msingi usio na faida ambao ulianzisha modeli za lugha huria wakati mipaka ya AI ilifungwa nyuma ya kuta za shirika.

Sikiliza mwongozo huuInaonyeshwa na AI · ~2 min

Katika ukurasa huudk 2 kusoma
  1. Muhtasari
  2. Dive ya kina
  3. Utekelezaji wa Ulimwengu Halisi
  4. Mustakabali wa EleutherAI
  5. Kuiweka katika vitendo
  6. Endelea Kuchunguza
  7. Maswali yanayoulizwa mara kwa mara

Muhtasari

It proved that a volunteer community could build and freely release models rivaling closed systems, reshaping who gets to participate in AI research.

Dive ya kina

EleutherAI ilianza Julai 2020 kama jumuiya ya Discord iliyoandaliwa na Connor Leahy, Sid Black, na Leo Gao, ambayo awali ililenga kunakili GPT-3 ya OpenAI. Ili kutoa mafunzo kwa miundo kama hii, kwanza walijenga na kutoa The Pile, hifadhidata ya maandishi iliyoratibiwa ya 825GB ambayo ikawa shirika la kawaida la mafunzo wazi. Kisha wakatoa GPT-Neo, GPT-J-6B, na kigezo cha bilioni 20 cha GPT-NeoX-20B, kati ya miundo mikubwa ya lugha iliyokuwa wazi ya wakati wao. Zana zao, ikiwa ni pamoja na maktaba ya mafunzo ya GPT-NeoX na LM Evaluation Harness iliyotumika katika tasnia nzima kwa ulinganishaji, ikawa miundombinu mingine iliyojengwa juu yake. Mnamo 2023 EleutherAI ilirasimishwa kama taasisi ya utafiti isiyo ya faida, ikipanuka katika ufasiri, upatanishi, na sayansi ya jinsi wanamitindo hujifunza.

Utekelezaji wa Ulimwengu Halisi

Seti ya data ya Rundo inatumiwa na watafiti ulimwenguni kote kutoa mafunzo na kusoma modeli za lugha huria kwa njia ya kuzaliana.

GPT-J-6B na GPT-NeoX-20B hutumwa na wanaoanza na wasomi kama njia mbadala za bila malipo kwa miundo ya kibiashara ya API.

LM Evaluation Harness ni zana ya kawaida ambayo maabara nyingi hutumia ili kupima utendaji wa kielelezo katika mamia ya kazi.

Watafiti huru wa usalama na ukalimani hutumia uzani wazi wa EleutherAI kusoma muundo wa ndani ambao API zilizofungwa hujificha.

Mustakabali wa EleutherAI

EleutherAI inahama kutoka mbio safi ya kuongeza kielelezo kuelekea ufasiri, uwazi wa data ya mafunzo, na tathmini ya kina, maeneo ambayo sayansi huria inahitajika zaidi. Tarajia kazi inayoendelea ya kuelewa miundo ya ndani inawakilisha, kutoa seti za data zilizohifadhiwa vizuri na kusaidia utafiti huru wa usalama. Kadiri maabara za mipakani zinavyokua kwa usiri zaidi, jukumu la EleutherAI kama mpinzani wa maslahi ya umma, kutoa mafunzo kwa kizazi kijacho cha watafiti, huenda ni muhimu zaidi kuliko hesabu ya vigezo vya muundo wowote unaosafirisha.

Kuiweka katika vitendo

Kwa nini ni muhimu

  • Mkakati wa muuzaji. Ramani za barabara za wachuuzi huathiri vipengele ambavyo timu yako inaweza kuunda baadaye.
  • Gharama na bajeti. Masharti ya kibiashara na chaguzi za kupeleka huathiri gharama na hatari ya muda mrefu.
  • Hatari na usalama. Vivutio vya kampuni hutengeneza chaguo-msingi za bidhaa, mkao wa usalama na uwazi.

Jihadharini na

  • Matangazo ya uzinduzi yanaweza kushinda uthabiti katika utendakazi halisi wa uzalishaji.
  • Bei za API au mabadiliko ya sera yanaweza kuvunja mawazo mara moja.
  • Utegemezi wa muuzaji mmoja huongeza gharama za kufunga na kuhama.

Hatua zinazofuata

  1. Tathmini watoa huduma kwa kutumia kazi na seti zako za data.
  2. Kagua faragha, usalama na masharti ya kisheria kabla ya kuunganishwa.
  3. Dumisha mpango mbadala kwa miundo au wachuuzi.
  4. Fuatilia maelezo ya toleo ili mabadiliko ya ramani ya barabara yasiwashangaze timu.

Endelea Kuchunguza

Jarida halali

Pata taarifa ya kila siku ya AI

Hadithi tatu za AI zilizothibitishwa kila asubuhi ya wiki, zimetengenezwa kwa Kiingereza rahisi. Bila malipo daima, hakuna matangazo.

Barua pepe moja kila siku ya wiki. Jiondoe kwa bonyeza moja. Hatutauza au kushiriki anwani yako.

Jijaribu mwenyewe

Take the EleutherAI quiz

Maoni ya haraka juu ya kila jibu, na cheti kinachoweza kushirikishwa na kitambulisho kinachoweza kuthibitishwa baada ya kupita kozi.

Anza chemsha bongo

Changia elimu ya AI bila malipo. AI Understanding ni 501(c)(3) isiyo na faida — hakuna matangazo, hakuna kizuizi cha malipo, daima. Toa mchango

Maswali yanayoulizwa mara kwa mara

What is EleutherAI?

EleutherAI ni utafiti wa msingi usio na faida ambao ulianzisha modeli za lugha huria wakati mipaka ya AI ilifungwa nyuma ya kuta za shirika. Ilithibitisha kuwa jumuiya ya kujitolea inaweza kujenga na kuachilia kwa hiari miundo pinzani ya mifumo iliyofungwa, kuunda upya nani anapata kushiriki katika utafiti wa AI.

How did EleutherAI first bring together its research community?

EleutherAI’s history page describes it as beginning in July 2020 as a Discord server for discussing GPT-3 and open language models.

'The Pile' ni nini?

Rundo ni nakala kubwa, tofauti, iliyotolewa wazi ya EleutherAI iliyojengwa ili kutoa mafunzo na kusoma modeli za lugha.

Ni ipi kati ya hizi ni modeli ya lugha ya EleutherAI?

GPT-NeoX-20B ni mojawapo ya mifano ya wazi ya EleutherAI; wengine wanatoka Google au Meta.

Kiunga cha Tathmini cha LM kinatumika kwa ajili gani?

Kuunganisha ni zana iliyo wazi iliyopitishwa na wengi kwa tathmini sanifu ya miundo ya lugha kwenye mamia ya vigezo.

Which organizations are named in EleutherAI’s retrospective as research supporters?

EleutherAI’s paper on open research acknowledges support and contributions from CoreWeave and TPU Research Cloud, among other supporters.