Dulmar
EleutherAI waa cilmi-baaris wadareed aan faa'iido doon ahayn oo aasaasi ah oo hormuud ka ahayd moodooyinka luqadaha waaweyn ee il-furan markii xudduudda AI lagu xiray gidaarada shirkadaha gadaasheeda. Waxay caddaysay in bulshada iskaa wax u qabso ahi ay dhisi karto oo si xor ah u sii dayn karto moodooyinka la tartamaya nidaamyada xidhan, dib u qaabaynta cidda ka qaybqaadanaysa cilmi-baarista AI.
EleutherAI waxaa si fiican loo fahmay istaraatiijiyada, helida moodeelka, go'aamada madal, iyo iskaashiga nidaamka deegaanka.
quusitaanka qoto dheer
EleutherAI waxay bilaabatay Juulaay 2020 sida bulshada Discord oo ay soo abaabuleen Connor Leahy, Sid Black, iyo Leo Gao, asal ahaan ujeedadoodu tahay in lagu celiyo OpenAI's GPT-3. Si loo tababaro moodooyinka noocaas ah, waxay markii hore dhiseen oo sii daayeen The Pile, 825GB xog-qoraaleed la curiyey oo noqday urur tababar furan oo caadi ah. Kadibna waxay sii daayeen GPT-Neo, GPT-J-6B, iyo 20-bilyan-parameter GPT-NeoX-20B, oo ka mid ah moodooyinka luqadaha furan ee ugu weyn waqtigooda. Qalabkooda, oo ay ku jiraan maktabadda tababarka GPT-NeoX iyo LM Evaluation Harness waxay u adeegsadeen warshadaha oo dhan si ay u cabbiraan, waxay noqdeen kaabayaasha kuwa kale oo lagu dhisay. 2023 EleutherAI waxaa loo qaabeeyey sidii machad cilmi baaris oo aan faa'iido doon ahayn, iyadoo lagu ballaarinayo tarjumaada, toosinta, iyo sayniska sida moodooyinka wax u bartaan.
Aragtida Farsamada
Moodooyinka EleutherAI waxay adeegsadaan qaab-dhismeedka qalabka wax-ka-beddelka, laakiin GPT-J iyo GPT-NeoX waxay soo bandhigeen doorashooyin injineernimo oo wax ku ool ah sida Rotary Positional Embeddings (Rotary Positional Embeddings (RoPE) si loo codeeyo boosaska calaamada iyo isbarbar-dhigga lakabyada feejignaanta-iyo-soo-jeedinta si loo dedejiyo tababarka. Muhiimad gaar ah, waxay ku tababareen TPU-yada iyo GPU-yada lagu deeqay iyada oo loo marayo shuraako ay ka mid yihiin Google's TPU Research Cloud iyo CoreWeave, oo muujinaya in la qaybiyey, xisaabinta kafaala-qaadka ah ay u beddeli karto xarun xog-ururineed marka lagu lammaaniyo kood furan.
Qiimaha ugu sarreeya saamiyada EleutherAI
EleutherAI waa cilmi-baaris wadareed aan faa'iido doon ahayn oo aasaasi ah oo hormuud ka ahayd moodooyinka luqadaha waaweyn ee il-furan markii xudduudda AI lagu xiray gidaarada shirkadaha gadaasheeda. Waxay caddaysay in bulshada iskaa wax u qabso ahi ay dhisi karto oo si xor ah u sii dayn karto moodooyinka la tartamaya nidaamyada xidhan, dib u qaabaynta cidda ka qaybqaadanaysa cilmi-baarista AI. EleutherAI waxaa si fiican loo fahmay istaraatiijiyada, helida moodeelka, go'aamada madal, iyo iskaashiga nidaamka deegaanka. Si loo dhiso faham qoto dheer, ula dhaqan EleutherAI sidii moodal hawleed, ma aha hal sifo: qeex natiijooyinka la rabo, cadee fikradaha, oo kala saar waxa nidaamku si kalsooni leh u qaban karo iyo waxa weli u baahan go'aan khabiir.
Ficil ahaan, kooxaha xoogga leh ee isticmaalaya EleutherAI waxay qiimeeyaan istiraatiijiyadda iibiyaha, isku halaynta khariidadda waddada, iyo khatarta qufulka ka hor intaanay samayn. Waxay diiwaangeliyaan shuruudaha guusha ee cad, tijaabiyaan xogta dhabta ah iyo qulqulka shaqada, waxayna ku celceliyaan ku saleysan qaababka guul darrida ee la arkay halkii ay hal mar ku guuleysan lahaayeen halbeegyada. Tani waa halka fahamka aragtida uu isu beddelo karti waara oo dhan badeecada, siyaasadda, iyo hawlgallada.
Wadooyinka iibiyuhu waxay saameeyaan sifooyinka ay kooxdaadu dhisi karto marka xigta. Isla mar ahaantaana, ogeysiisyada Daahfurka ayaa laga yaabaa inay ka dheereeyaan xasilloonida socodka shaqo ee wax soo saarka dhabta ah. Habka ugu adkeysi badan waa in la isku daro xawaaraha tijaabada iyo anshaxa maamulka: socodsiinta duuliyayaasha, qabashada caddaynta, daabacaadda go'aanka, iyo si joogto ah u cusboonaysii ilaalinta sida habdhaqanka moodeelka, filashada isticmaale, iyo shuruudaha sharciyaynta.
Saamaynta Istiraatijiyadeed
Wadooyinka iibiyuhu waxay saameeyaan sifooyinka ay kooxdaadu dhisi karto marka xigta.
Wadooyinka iibiyuhu waxay saameeyaan sifooyinka ay kooxdaadu dhisi karto marka xigta. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.
Shuruudaha ganacsiga iyo ikhtiyaarka geynta ayaa saameeya kharashka iyo khatarta muddada-dheer.
Shuruudaha ganacsiga iyo ikhtiyaarka geynta ayaa saameeya kharashka iyo khatarta muddada-dheer. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.
Dhiirrigelinta shirkadu waxay qaabaysaa wax-soo-saarka alaabada, booska badbaadada, iyo furfurnaanta.
Dhiirrigelinta shirkadu waxay qaabaysaa wax-soo-saarka alaabada, booska badbaadada, iyo furfurnaanta. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.
Dhaqangelinta Adduunka-dhabta ah
Xogta Pile waxaa isticmaala cilmi-baarayaasha adduunka oo dhan si ay u tababaraan oo ay u daraaseeyaan moodooyinka luqadda furan si dib loo soo saaro.
GPT-J-6B iyo GPT-NeoX-20B waxaa geeyey bilawga iyo aqoonyahanada si ay u noqdaan kuwo bilaash ah moodooyinka API-ganacsiyeedka.
Xarunta Qiimaynta LM waa aaladda caadiga ah ee shaybaadhada badani ay isticmaalaan si ay u cabbiraan waxqabadka moodalka ee boqollaal hawlood.
Cilmi baadhayaasha badbaadada iyo tarjumaadda madaxa-bannaan waxay isticmaalaan miisaanka furan ee EleutherAI si ay u daraaseeyaan moodal gudaha ah oo xidhmay API-yada.
Hababka Dhaqangelinta
EleutherAI ficil ahaan
Xogta Pile waxaa isticmaala cilmi-baarayaasha adduunka oo dhan si ay u tababaraan oo ay u daraaseeyaan moodooyinka luqadda furan si dib loo soo saaro.
Xogta Pile waxaa isticmaala cilmi-baarayaasha adduunka oo dhan si ay u tababaraan oo ay u daraaseeyaan moodooyinka luqadda furan ee dib u soo saarista Kooxuhu inta badan waxay helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u qaadida bini'aadamka ee kiisaska cirifka ah, iyo la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada qaladka waqti ka dib.
EleutherAI ficil ahaan
GPT-J-6B iyo GPT-NeoX-20B waxaa geeyey bilawga iyo aqoonyahanada si ay u noqdaan kuwo bilaash ah moodooyinka API-ganacsiyeedka.
GPT-J-6B iyo GPT-NeoX-20B waxaa geeyaa bilawga iyo tacliinta si ay u noqdaan beddelaad bilaash ah oo loogu talagalay moodooyinka API-ga ganacsi Kooxuhu inta badan waxay helayaan natiijooyin wanaagsan marka ay qeexaan heerarka tayada ee hore, waxay hayaan dariiqa kor u kaca bini'aadamka ee kiisaska cirifka ah, waxayna la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada khaladka waqti ka dib.
EleutherAI ficil ahaan
Xarunta Qiimaynta LM waa aaladda caadiga ah ee shaybaadhada badani ay isticmaalaan si ay u cabbiraan waxqabadka moodalka ee boqollaal hawlood.
Xakamaynta Qiimaynta LM waa aaladda caadiga ah ee shaybaadhada badani ay isticmaalaan si ay u cabbiraan waxqabadka moodeelka ee boqollaal hawlood Kooxuhu inta badan waxay helayaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u qaadista bini'aadamka ee kiisaska cirifka ah, oo ay la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada khaladka waqti ka dib.
EleutherAI ficil ahaan
Cilmi baadhayaasha badbaadada iyo tarjumaadda madaxa-bannaan waxay isticmaalaan miisaanka furan ee EleutherAI si ay u daraaseeyaan moodal gudaha ah oo xidhmay API-yada.
Cilmi baadhayaasha badbaadada madax-banaan iyo tarjumaadda waxay isticmaalaan miisaanka furan ee EleutherAI si ay u daraaseeyaan moodalka gudaha ee xirxiran APIs-kooxuhu waxay inta badan helaan natiijooyin wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u kaca bini'aadamka ee kiisaska cirifka ah, oo ay la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada qaladka waqti ka dib.
Khatarta & Dariiqyada Ilaalada
Ogeysiisyada bilawga ah ayaa laga yaabaa inay ka dheereeyaan xasilloonida socodka shaqo ee wax soo saarka dhabta ah.
Qiimaynta API ama isbedelada siyaasada waxay jebin karaan malo awaalka habeen dhaxa
Ku-tiirsanaanta iibiyuhu wuxuu kordhiyaa qufulka iyo kharashaadka socdaalka.
Qorshe Hawleedka Dhaqangelinta
Qiimee bixiyeyaasha adiga oo isticmaalaya hawlahaaga iyo kaydinta xogtaada.
Qiimee bixiyeyaasha adiga oo isticmaalaya hawlahaaga iyo kaydinta xogtaada. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.
Dib u eeg sirta, amniga, iyo shuruudaha sharciga ka hor is dhexgalka.
Dib u eeg sirta, amniga, iyo shuruudaha sharciga ka hor is dhexgalka. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.
Ilaali qorshaha dib u dhaca ee moodooyinka ama iibiyeyaasha.
Ilaali qorshaha dib u dhaca ee moodooyinka ama iibiyeyaasha. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.
La soco qoraalada sii daynta si isbeddellada khariidadda waddo aysan ula yaabin kooxaha.
La soco qoraalada sii daynta si isbeddellada khariidadda waddo aysan ula yaabin kooxaha. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.