Cerebras Systems
Cerebras изгражда най-големия компютърен чип в света, Wafer-Scale Engine, поставяйки цял AI процесор върху едно парче силиций с размерите на чиния.
Преглед
It matters because this radical design slashes the time it takes to train and run large AI models.
Дълбоко гмуркане
Основана през 2015 г. и базирана в Сънивейл, Калифорния, Cerebras направи противоположен залог: вместо да свърже заедно хиляди малки графични процесори, тя ще изгради един гигантски чип. Неговият Wafer-Scale Engine (WSE) е изрязан от пълна силиконова пластина, а не нарязан на стотици малки чипове. Третото поколение WSE-3, пуснато през 2024 г., пакетира приблизително 4 трилиона транзистора и 900 000 оптимизирани за AI ядра върху едно парче силиций с размерите на чиния за вечеря. Cerebras ги продава като CS-3 системи и предлага услуга за изводи в облак. До 2024-2025 г. той стана известен с рекордните скорости на изводи, работейки с отворени модели като Llama с хиляди токени в секунда, много по-бързо от типичните настройки на GPU.
Техническа информация
Нормална леярна за чипове нарязва кръгла силиконова пластина на множество малки матрици. Вместо това Cerebras поддържа цялата пластина като един чип, след което използва излишни ядра и интелигентно маршрутизиране, за да заобиколи производствените дефекти, които обикновено биха развалили отделните матрици. Поддържането на всичко на една подложка означава, че данните се движат между ядрата по кабели в чип, вместо бавна външна мрежа, което осигурява огромна честотна лента на паметта и драматично по-ниско забавяне за натоварвания на AI.
Стратегическо въздействие
Vendor strategy
Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък.
Cost and budget
Търговските условия и опциите за внедряване влияят върху дългосрочните разходи и риск.
Risk and safety
Стимулите на компанията оформят продуктовите стандарти, безопасността и откритостта.
Бъдещето на системите Cerebras
Cerebras подаде документи за публично оповестяване и настоява силно за високоскоростни изводи, залагайки, че търсенето на бързи отговори на AI в реално време ще съперничи на търсенето на обучение. Очаквайте бъдещи поколения с мащаб на вафли с повече ядра и памет, по-задълбочени партньорства с лаборатории за модели и правителства и нарастващ натиск върху доминирания от GPU пазар. Неговото предизвикателство е мащабиране на производството, зрялост на софтуера и възприемане от клиенти срещу утвърдени конкуренти като Nvidia.
Внедряване в реалния свят
Изпълнение на големи езикови модели с отворен код като Llama с хиляди токени в секунда за ултра бързи отговори на чатботове и агенти
Обучение на големи езикови и научни модели по-бързо чрез избягване на мрежовите затруднения на мулти-GPU клъстери
Подпомагане на откриването на лекарства и молекулярни симулации за партньори във фармацевтичните и националните лаборатории
Служи като изчислителен гръбнак за суверенни AI проекти, като например широкомащабни внедрявания в Близкия изток
Рискове и предпазни огради
Съобщенията за стартиране може да изпреварят стабилността в реалните производствени работни процеси.
Ценообразуването на API или промените в политиката могат да разбият предположенията за една нощ.
Зависимостта от един доставчик увеличава разходите за заключване и миграция.
Пътна карта за изпълнение
Оценявайте доставчиците, като използвате вашите собствени задачи и набори от данни.
Прегледайте поверителността, сигурността и правните условия преди интегриране.
Поддържайте резервен план за модели или доставчици.
Наблюдавайте бележките по изданието, така че промените в пътната карта да не изненадват екипите.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Cerebras Systems quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Круизни системи за самостоятелно управление
Frequently asked questions
What is Cerebras Systems?
Cerebras изгражда най-големия компютърен чип в света, Wafer-Scale Engine, поставяйки цял AI процесор върху едно парче силиций с размерите на чиния. Има значение, защото този радикален дизайн намалява времето, необходимо за обучение и управление на големи AI модели.
Какво е необичайно в дизайна на Cerebras Wafer-Scale Engine?
Cerebras поддържа цяла силиконова пластина като един гигантски чип, вместо да я нарязва на много малки матрици, създавайки процесор с размерите на чиния за хранене.
Защо запазването на всички ядра на една пластина помага за производителността на AI?
Комуникацията в чип е много по-бърза от мрежовата връзка между отделни чипове, осигурявайки огромна честотна лента и ниска латентност за натоварвания на AI.
Приблизително колко транзистора съдържа WSE-3?
Wafer-Scale Engine от трето поколение включва от порядъка на 4 трилиона транзистора, огромен брой, активиран чрез използването на цялата пластина.
Какво се превърна в отличителна сила на Cerebras до 2024-2025 г.?
Cerebras спечели слава с това, че изпълнява големи езикови модели с хиляди токени в секунда, много по-бързо от типичните внедрявания на GPU.
Как Cerebras се справя с производствените дефекти на такъв огромен чип?
Тъй като някои дефекти са неизбежни при пълна пластина, Cerebras вгражда излишък, така че чипът да може да обикаля лошите области и да продължава да функционира.