Up tókànItọsọna atẹle
Awọn iwuwo & Awọn ojuṣaaju
Awọn ile-iṣẹ
Awọn ile-iṣẹ Itọsọna
EleutherAI
EleutherAI jẹ akojọpọ iwadi ti ko ni ere ti koriko ti o ṣe aṣáájú-ọnà ṣiṣi-orisun awọn awoṣe ede nla nigbati aala AI ti wa ni titiipa lẹhin awọn odi ile-iṣẹ.
Gbọ si itọsọna yiiAI-ṣe afihan · ~2 min
Lori iwe yi2 min ka
Akopọ
O fihan pe agbegbe oluyọọda le kọ ati tu awọn awoṣe larọwọto ti njijadu awọn eto pipade, ti n ṣe atunto ẹniti o ni lati kopa ninu iwadii AI.
Jin Dive
EleutherAI bẹrẹ ni Oṣu Keje ọdun 2020 gẹgẹbi agbegbe Discord ti a ṣeto nipasẹ Connor Leahy, Sid Black, ati Leo Gao, ni ipilẹṣẹ lati tun ṣe OpenAI's GPT-3. Lati kọ iru awọn awoṣe bẹ, wọn kọkọ kọ ati tu silẹ The Pile, iwe data ọrọ ti a ṣafọtọ 825GB kan ti o di koposi ikẹkọ ṣiṣi boṣewa. Lẹhinna wọn tu GPT-Neo, GPT-J-6B, ati 20-billion-parameter GPT-NeoX-20B, laarin awọn awoṣe ede ti o tobi julọ ti o wa ni gbangba ti akoko wọn. Awọn irinṣẹ wọn, pẹlu ile-ikawe ikẹkọ GPT-NeoX ati Harness Igbelewọn LM ti a lo jakejado ile-iṣẹ fun aṣepari, di awọn amayederun awọn miiran ti a ṣe lori. Ni 2023 EleutherAI ti ṣe agbekalẹ gẹgẹbi ile-ẹkọ iwadii ai-jere, ti n gbooro si itumọ, titopọ, ati imọ-jinlẹ ti bii awọn awoṣe ṣe kọ ẹkọ.
Real-World imuse
Akopọ data Pile jẹ lilo nipasẹ awọn oniwadi ni kariaye lati ṣe ikẹkọ ati ṣe iwadi awọn awoṣe ede ṣiṣi silẹ ni atunṣe.
GPT-J-6B ati GPT-NeoX-20B ti wa ni ransogun nipasẹ awọn ibẹrẹ ati omowe bi free yiyan si awọn awoṣe API ti owo.
Harness Igbelewọn LM jẹ ọpa boṣewa ti ọpọlọpọ awọn laabu lo lati ṣe iṣẹ awoṣe ala-ilẹ kọja awọn ọgọọgọrun awọn iṣẹ ṣiṣe.
Aabo ominira ati awọn oniwadi itumọ lo awọn iwọn ṣiṣi ti EleutherAI lati ṣe iwadi awọn inu inu awoṣe ti o pa awọn APIs pamọ.
Ojo iwaju ti EleutherAI
EleutherAI n yipada lati ere-ije iwọn awoṣe mimọ si ọna itumọ, akoyawo data ikẹkọ, ati igbelewọn lile, awọn agbegbe nibiti imọ-jinlẹ ti nilo julọ. Reti iṣẹ ti o tẹsiwaju lori oye kini awọn awoṣe ti inu inu, itusilẹ awọn iwe data ti a gbasilẹ daradara, ati atilẹyin iwadii aabo ominira. Bi awọn ile-iṣẹ aala ti n dagba ni aṣiri diẹ sii, ipa EleutherAI gẹgẹbi iwuwo anfani gbogbo eniyan, ikẹkọ iran ti nbọ ti awọn oniwadi, o ṣee ṣe awọn ọrọ diẹ sii ju kika paramita ti eyikeyi awoṣe ẹyọkan ti o firanṣẹ.
Fifi o sinu iwa
Kini idi ti o ṣe pataki
- Ilana olutaja. Awọn maapu opopona olutaja ni ipa kini awọn ẹya ti ẹgbẹ rẹ le kọ ni atẹle.
- Iye owo ati isuna. Awọn ofin iṣowo ati awọn aṣayan imuṣiṣẹ ni ipa lori idiyele igba pipẹ ati eewu.
- Ewu ati ailewu. Awọn imoriya ile-iṣẹ ṣe apẹrẹ awọn abawọn ọja, iduro ailewu, ati ṣiṣi.
Ṣọra fun
- Awọn ikede ifilọlẹ le ju iduroṣinṣin lọ ni awọn iṣan-iṣẹ iṣelọpọ gidi.
- Ifowoleri API tabi awọn iyipada eto imulo le fọ awọn arosinu ni alẹ.
- Igbẹkẹle olutaja ẹyọkan ṣe alekun titiipa-inu ati awọn idiyele ijira.
Next awọn igbesẹ
- Ṣe ayẹwo awọn olupese nipa lilo awọn iṣẹ ṣiṣe tirẹ ati awọn ipilẹ data.
- Ṣe atunyẹwo asiri, aabo, ati awọn ofin ofin ṣaaju iṣọpọ.
- Ṣetọju eto ipadabọ kọja awọn awoṣe tabi awọn olutaja.
- Bojuto awọn akọsilẹ itusilẹ nitoribẹẹ awọn iyipada maapu oju-ọna ma ṣe iyalẹnu awọn ẹgbẹ.
Tesiwaju Ṣiṣawari
Ìwé ìròyìn ọfẹ
Gba ìkànìyàn AI ojoojúmọ́
Ìtàn AI mẹta tó jẹ́rìí ní gbogbo owurọ́ ọjọ́ iṣẹ́, kọ́wé ní Gẹ̀ẹ́sì tó rọrùn. Ọfẹ́ fún gbogbo àkókò, kò sí ìpolówó.
Ìmeèlì kan ní gbogbo ọjọ́ iṣẹ́. Yọkúrò ní ìkànìyàn ní ìkànìyàn kan. A kò ta tàbí pín àdírẹ́sì rẹ.
Ṣe idanwo fun ara rẹ
Take the EleutherAI quiz
Ìdáhùn lẹ́sẹ̀kẹsẹ̀ lórí gbogbo ìdáhùn, àti iwe-ẹ̀rí tó lè pin pẹ̀lú ID tó lè jẹ́rìí lẹ́yìn tí o bá kọ́ ẹ̀kọ́.
Ṣe àtìlẹ́yìn ẹ̀kọ́ AI ọfẹ́. AI Understanding jẹ́ àjọ àìní èrè 501(c)(3) — kò sí ìpolówó, kò sí àkúnya owó, ní gbogbo àkókò. Ṣe ẹbun kan
Awọn ibeere ti a beere nigbagbogbo
Kini EleutherAI?
EleutherAI jẹ akojọpọ iwadi ti ko ni ere ti koriko ti o ṣe aṣáájú-ọnà ṣiṣi-orisun awọn awoṣe ede nla nigbati aala AI ti wa ni titiipa lẹhin awọn odi ile-iṣẹ. O fihan pe agbegbe oluyọọda le kọ ati tu awọn awoṣe larọwọto ti njijadu awọn eto pipade, ti n ṣe atunto ẹniti o ni lati kopa ninu iwadii AI.
How did EleutherAI first bring together its research community?
EleutherAI’s history page describes it as beginning in July 2020 as a Discord server for discussing GPT-3 and open language models.
Kini 'The Pile'?
Pile jẹ titobi nla, oniruuru, ti a tu silẹ ni gbangba corpus EleutherAI ti a ṣe lati kọ ati ṣe ikẹkọ awọn awoṣe ede.
Ewo ninu iwọnyi jẹ awoṣe ede EleutherAI?
GPT-NeoX-20B jẹ ọkan ninu awọn awoṣe ṣiṣi ti EleutherAI; awọn miiran wa lati Google tabi Meta.
Kini ijanu Igbelewọn LM ti a lo fun?
Ijanu jẹ ohun elo ṣiṣi ti a gba ni ibigbogbo fun igbelewọn idiwọn ti awọn awoṣe ede lori awọn ọgọọgọrun awọn ipilẹ.
Which organizations are named in EleutherAI’s retrospective as research supporters?
EleutherAI’s paper on open research acknowledges support and contributions from CoreWeave and TPU Research Cloud, among other supporters.
Tesiwaju kikọ
Jẹmọ awọn itọsọna
Awọn itọsọna diẹ sii ti a yan fun koko yii