Groq
Groq jẹ ile-iṣẹ ohun elo kan ti o kọ LPU (Ẹka Ṣiṣẹpọ Ede), chirún aṣa ti a ṣe apẹrẹ lati ṣiṣe awọn awoṣe ede AI ni iyara giga gaan.
Akopọ
It matters because it delivers some of the fastest inference available, generating hundreds of tokens per second for low-latency AI applications.
Jin Dive
Ti a da ni 2016 nipasẹ Jonathan Ross, ẹlẹrọ Google atijọ ti o ṣe iranlọwọ lati ṣẹda TPU, Groq fojusi lori itọkasi AI dipo ikẹkọ. LPU rẹ nlo ipinnu ipinnu kan, eto-iṣe eto sọfitiwia ti a pe ni Tensor Streaming Processor, nibiti olupilẹṣẹ ṣe gbero gbogbo iṣẹ ni ilosiwaju dipo gbigbekele awọn oluṣeto ohun elo ti o ni agbara ati awọn caches nla. Asọtẹlẹ yii yọkuro awọn igo ati jẹ ki Groq ṣe iranṣẹ awọn awoṣe ede ti o tobi bi Llama ni awọn iyara iran-ami giga ti iyalẹnu pẹlu kekere, aiduro deede. Groq nfunni ni iraye si nipasẹ GroqCloud, nibiti awọn olupilẹṣẹ le ṣiṣe awọn awoṣe ṣiṣi olokiki nipasẹ API kan. Ṣe akiyesi pe ile-iṣẹ Groq yato si Elon Musk's chatbot Grok, laibikita orukọ ti o jọra.
Imọ-imọ-ẹrọ
Ko dabi awọn GPU ti o mu iṣẹ ṣiṣẹ pẹlu ọpọlọpọ awọn ohun kohun pẹlu awọn ilana iranti idiju ati ṣiṣe eto agbara, LPU jẹ ipinnu: olupilẹṣẹ ṣe iṣeto ni iṣiro gbogbo ilana ati gbigbe data, nitorinaa akoko jẹ asọtẹlẹ ni kikun. O nlo SRAM on-chip kuku ju iranti itagbangba lọra fun bandiwidi giga, ati awọn eerun igi jẹ apẹrẹ lati pq papọ ki awọn awoṣe nla nṣan kọja ọpọlọpọ awọn LPUs. Sisan data ṣiṣanwọle yii jẹ ohun ti o mu ki awọn ami-ami giga ga julọ Groq ṣiṣẹ fun itọkasi iṣẹju-aaya.
Ipa Ilana
Ilana olutaja
Awọn maapu opopona olutaja ni ipa kini awọn ẹya ti ẹgbẹ rẹ le kọ ni atẹle.
Iye owo ati isuna
Awọn ofin iṣowo ati awọn aṣayan imuṣiṣẹ ni ipa lori idiyele igba pipẹ ati eewu.
Ewu ati ailewu
Awọn imoriya ile-iṣẹ ṣe apẹrẹ awọn abawọn ọja, iduro ailewu, ati ṣiṣi.
Ojo iwaju ti Groq
Gẹgẹbi awọn aṣoju AI akoko gidi, awọn oluranlọwọ ohun, ati awọn atọkun iwiregbe n beere awọn idahun lẹsẹkẹsẹ, iyara itọkasi di aaye ogun idije, ati pe Groq wa ni ipo ni iwọn sibẹ si Nvidia GPUs ati awọn ibẹrẹ AI-chip miiran. Reti Groq lati faagun agbara GroqCloud, ṣe atilẹyin diẹ sii ati awọn awoṣe nla, ati ile-iṣẹ ibi-afẹde ati awọn ifilọlẹ ọba-AI. Aṣa ti o gbooro jẹ pipin ti ndagba laarin ohun elo ikẹkọ ati amọja, ohun elo itọkasi iyara-iyara iṣapeye fun ṣiṣe awọn awoṣe ni olowo poku ni iwọn.
Real-World imuse
Agbara awọn chatbots lairi kekere ti o dahun fere lesekese si awọn ibeere olumulo
Ṣiṣe awọn oluranlọwọ ohun ni akoko gidi nibiti iran ọrọ iyara dinku awọn idaduro ti o buruju
Ṣiṣẹ awọn awoṣe ṣiṣi bi Llama ni iyara giga nipasẹ GroqCloud API
Muu awọn aṣoju AI ṣiṣẹ pọ si ọpọlọpọ awọn ipe awoṣe ni iyara laisi airi igbese-lọra
Awọn ewu & Awọn ọna iṣọ
Awọn ikede ifilọlẹ le ju iduroṣinṣin lọ ni awọn iṣan-iṣẹ iṣelọpọ gidi.
Ifowoleri API tabi awọn iyipada eto imulo le fọ awọn arosinu ni alẹ.
Igbẹkẹle olutaja ẹyọkan ṣe alekun titiipa-inu ati awọn idiyele ijira.
Ilana Ilana imuse
Ṣe ayẹwo awọn olupese nipa lilo awọn iṣẹ ṣiṣe tirẹ ati awọn ipilẹ data.
Ṣe atunyẹwo asiri, aabo, ati awọn ofin ofin ṣaaju iṣọpọ.
Ṣetọju eto ipadabọ kọja awọn awoṣe tabi awọn olutaja.
Bojuto awọn akọsilẹ itusilẹ nitoribẹẹ awọn iyipada maapu oju-ọna ma ṣe iyalẹnu awọn ẹgbẹ.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Groq quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Nous Iwadi
Awọn ibeere ti a beere nigbagbogbo
What is Groq?
Groq jẹ ile-iṣẹ ohun elo kan ti o kọ LPU (Ẹka Ṣiṣẹpọ Ede), chirún aṣa ti a ṣe apẹrẹ lati ṣiṣe awọn awoṣe ede AI ni iyara giga gaan. O ṣe pataki nitori pe o funni ni diẹ ninu itọkasi iyara ti o wa, ti n ṣe ipilẹṣẹ awọn ọgọọgọrun ti awọn ami fun iṣẹju-aaya fun awọn ohun elo AI-kekere.
Kini Groq's LPU duro fun?
LPU duro fun Ẹka Ṣiṣe Ede, Chip Groq ti a ṣe apẹrẹ lati ṣiṣe awọn awoṣe ede ni iyara.
Awọn eerun Groq jẹ iṣapeye akọkọ fun apakan wo ni ṣiṣan iṣẹ AI?
Groq fojusi lori inference, sìn tẹlẹ-oṣiṣẹ awọn awoṣe ni gidigidi ga iyara, dipo ju lori ikẹkọ.
Kini abuda asọye ti faaji LPU?
LPU nlo apẹrẹ ipinnu nibiti olupilẹṣẹ ṣe iṣeto ni iṣiro gbogbo iṣẹ ṣiṣe, ṣiṣe asọtẹlẹ akoko ati iyara.
Tani o da Groq silẹ, ati kini iṣẹ pataki rẹ ṣaaju?
Groq jẹ idasile nipasẹ Jonathan Ross, ẹniti o ṣe iranlọwọ tẹlẹ ni idagbasoke Google's Tensor Processing Unit (TPU).
Kini GroqCloud pese?
GroqCloud jẹ ki awọn olupilẹṣẹ ṣiṣẹ awọn awoṣe AI olokiki nipasẹ API kan lori ohun elo LPU iyara Groq.