Тест на память с высокой пропускной способностью

Ответы и пояснения появляются по мере прохождения теста.

1. Какую основную проблему решает высокоскоростная память для ускорителей искусственного интеллекта?
   • Вычислительные ядра простаивают в ожидании поступления данных
   • Графические процессоры перегреваются из-за слишком большого количества света
   • Постоянное хранение файлов при отключении питания
   • Подключение графического процессора к Интернету
2. Чем HBM физически отличается от обычной памяти GDDR?
   • Он хранится на жестком диске
   • Он укладывает несколько кристаллов DRAM вертикально и соединяет их сквозными кремниевыми переходами.
   • Внутри чипа используются оптоволоконные кабели.
   • В нем нет транзисторов
3. На что в основном опирается HBM для достижения высокой пропускной способности?
   • Гораздо более высокие тактовые частоты, чем у любой другой памяти.
   • Охлаждение жидким азотом
   • Экстремальный параллелизм благодаря очень широкому интерфейсу
   • Сжатие всех данных до одного бита
4. Почему стеки HBM размещаются на кремниевом переходнике рядом с графическим процессором?
   • Чтобы упаковка выглядела лучше
   • Потому что HBM не может работать на расстоянии более метра
   • Чтобы пользователь мог легко удалить
   • Чтобы сохранить короткие провода, уменьшая мощность на бит и задержку.
5. Почему HBM может иметь такое же значение, как и необработанные вычисления, в частности, для больших языковых моделей?
   • Потому что веса моделей должны передаваться постоянно, что требует высокой производительности и пропускной способности.
   • Потому что модели вообще не занимаются математикой
   • Потому что вычисления бесплатны, но память облагается налогом
   • Потому что LLM используют только процессор
6. Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
   • HBM2, HBM2E, HBM4E, then HBM3
   • HBM2, HBM2E, HBM3, HBM3E, and HBM4
   • GDDR6, GDDR7, DDR5, and HBM4
   • HBM3E directly followed by HBM1
7. Why can high HBM bandwidth help an autoregressive language model during token generation?
   • It eliminates the need to store model weights
   • It performs tokenization instead of the GPU
   • It can move model weights and other data to the compute units more quickly
   • It makes every model compute-bound
8. What is the difference between HBM capacity and HBM bandwidth?
   • They are identical measures of GPU clock speed
   • Capacity measures transfer speed and bandwidth measures data size
   • Neither is related to memory
   • Capacity is how much data can be stored; bandwidth is how quickly data can be transferred