Системы Церебрас
Компания Cerebras создает самый большой в мире компьютерный чип — Wafer-Scale Engine, помещая весь процессор искусственного интеллекта на один кусок кремния размером с обеденную тарелку.
Обзор
It matters because this radical design slashes the time it takes to train and run large AI models.
Глубокое погружение
Компания Cerebras, основанная в 2015 году и базирующаяся в Саннивейле, штат Калифорния, сделала противоположную ставку: вместо того, чтобы соединять вместе тысячи маленьких графических процессоров, она создаст один гигантский чип. Его Wafer-Scale Engine (WSE) вырезается из цельной кремниевой пластины, а не разрезается на сотни маленьких чипов. WSE-3 третьего поколения, выпущенный в 2024 году, упаковывает примерно 4 триллиона транзисторов и 900 000 ядер, оптимизированных для искусственного интеллекта, на одном куске кремния размером с обеденную тарелку. Cerebras продает их как системы CS-3 и предлагает услугу облачного вывода. К 2024-2025 году он стал известен рекордными скоростями вывода, запуская открытые модели, такие как Llama, со скоростью тысяч токенов в секунду, что намного быстрее, чем типичные настройки графического процессора.
Техническая информация
Обычный завод по производству микросхем разрезает круглую кремниевую пластину на множество маленьких штампов. Вместо этого Cerebras сохраняет всю пластину как один чип, а затем использует резервные ядра и продуманную маршрутизацию, чтобы обойти производственные дефекты, которые обычно приводят к разрушению отдельных кристаллов. Хранение всего на одной пластине означает, что данные перемещаются между ядрами по внутрикристальным проводам, а не по медленным внешним сетям, что обеспечивает огромную пропускную способность памяти и значительно меньшую задержку для рабочих нагрузок ИИ.
Стратегическое воздействие
Стратегия поставщика
Дорожные карты поставщиков влияют на то, какие функции ваша команда может создать дальше.
Стоимость и бюджет
Коммерческие условия и варианты развертывания влияют на долгосрочные затраты и риски.
Риски и безопасность
Стимулы компании влияют на невыполнение обязательств по продукту, безопасность и открытость.
Будущее систем Cerebras
Cerebras подала заявку на публичное размещение и активно продвигает высокоскоростные выводы, делая ставку на то, что спрос на быстрые реакции ИИ в реальном времени будет конкурировать со спросом на обучение. Ожидайте появление будущих поколений в масштабе пластин с большим количеством ядер и памяти, более тесных партнерских отношений с модельными лабораториями и правительствами, а также растущего давления на рынок, где доминируют графические процессоры. Ее задача — масштабирование производства, зрелость программного обеспечения и привлечение клиентов в борьбе с такими укоренившимися конкурентами, как Nvidia.
Реальная реализация
Запуск больших языковых моделей с открытым исходным кодом, таких как Llama, со скоростью тысяч токенов в секунду для сверхбыстрых ответов чат-ботов и агентов.
Ускорьте обучение больших языковых и научных моделей, избегая сетевых узких мест кластеров с несколькими графическими процессорами.
Поддержка открытия новых лекарств и молекулярного моделирования для фармацевтических партнеров и партнеров по исследованиям в национальных лабораториях.
Служит вычислительной основой для независимых проектов искусственного интеллекта, таких как крупномасштабные развертывания на Ближнем Востоке.
Риски и ограничения
Объявления о запуске могут опережать стабильность реальных производственных процессов.
Цены на API или изменения в политике могут в одночасье разрушить предположения.
Зависимость от одного поставщика увеличивает затраты на привязку и миграцию.
Дорожная карта реализации
Оценивайте поставщиков, используя собственные задачи и наборы данных.
Перед интеграцией ознакомьтесь с условиями конфиденциальности, безопасности и юридическими условиями.
Поддерживайте резервный план для разных моделей или поставщиков.
Отслеживайте примечания к выпуску, чтобы изменения в дорожной карте не удивили команды.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Cerebras Systems quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Круизные беспилотные системы
Часто задаваемые вопросы
What is Cerebras Systems?
Компания Cerebras создает самый большой в мире компьютерный чип — Wafer-Scale Engine, помещая весь процессор искусственного интеллекта на один кусок кремния размером с обеденную тарелку. Это важно, потому что такая радикальная конструкция сокращает время, необходимое для обучения и запуска больших моделей ИИ.
Что необычного в конструкции пластинчатого двигателя Cerebras?
Cerebras сохраняет целую кремниевую пластину как один гигантский чип вместо того, чтобы разрезать ее на множество маленьких кристаллов, создавая процессор размером с обеденную тарелку.
Почему размещение всех ядер на одной пластине повышает производительность ИИ?
Внутрикристальная связь намного быстрее, чем сетевое соединение между отдельными чипами, что обеспечивает огромную пропускную способность и низкую задержку для рабочих нагрузок ИИ.
Сколько примерно транзисторов содержит WSE-3?
Wafer-Scale Engine третьего поколения содержит порядка 4 триллионов транзисторов — огромное количество, которое достигается за счет использования всей пластины.
Что станет визитной карточкой Cerebras к 2024-2025 гг.?
Cerebras получила известность благодаря запуску больших языковых моделей со скоростью тысяч токенов в секунду, что намного быстрее, чем при обычном развертывании графических процессоров.
Как Cerebras справляется с производственными дефектами такого огромного чипа?
Поскольку некоторые дефекты неизбежны на полной пластине, Cerebras обеспечивает избыточность, чтобы чип мог обходить поврежденные участки и при этом продолжать работать.