Вікторина, пов’язана з посібником · Середній Рівень

Тест пам'яті з високою пропускною здатністю

Перевіряє стекування HBM, TSV, широкі інтерфейси, пропускну здатність і пропускну здатність, а також поточне покоління HBM4 разом із попередніми версіями.

Пов'язані напрямні шляхиПам'ять з високою пропускною здатністю
Питання 1 з 8

Яку основну проблему вирішує High Bandwidth Memory для прискорювачів AI?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Яку основну проблему вирішує High Bandwidth Memory для прискорювачів AI?
    • Обчислювальні ядра простоюють, очікуючи надходження даних
    • Графічні процесори перегріваються через занадто багато світла
    • Постійне зберігання файлів при вимкненому живленні
    • Підключення GPU до Інтернету
  2. Чим фізична конструкція HBM відрізняється від звичайної пам’яті GDDR?
    • Він зберігається на жорсткому диску
    • Він збирає кілька кристалів DRAM вертикально та з’єднує їх через кремнієві отвори
    • Він використовує волоконно-оптичні кабелі всередині чіпа
    • Він не має транзисторів
  3. На що в основному покладається HBM для досягнення високої пропускної здатності?
    • Набагато вищі тактові частоти, ніж будь-яка інша пам'ять
    • Охолодження рідким азотом
    • Надзвичайний паралелізм через дуже широкий інтерфейс
    • Стиснення всіх даних до одного біта
  4. Чому стеки HBM розміщені на кремнієвому інтерпозері поруч із GPU?
    • Щоб упаковка виглядала краще
    • Оскільки HBM не може працювати на відстані більше метра
    • Щоб дозволити користувачеві легко видалити
    • Щоб дроти були короткими, зменшуючи потужність на біт і затримку
  5. Особливо для великих мовних моделей, чому HBM може мати таке ж значення, як і необроблені обчислення?
    • Оскільки ваги моделей необхідно постійно передавати, що вимагає високої ємності та пропускної здатності
    • Тому що моделі взагалі не розраховують
    • Оскільки обчислення безкоштовні, але пам’ять оподатковується
    • Оскільки магістратури використовують лише центральний процесор
  6. Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
    • HBM2, HBM2E, HBM4E, then HBM3
    • HBM2, HBM2E, HBM3, HBM3E, and HBM4
    • GDDR6, GDDR7, DDR5, and HBM4
    • HBM3E directly followed by HBM1
  7. Why can high HBM bandwidth help an autoregressive language model during token generation?
    • It eliminates the need to store model weights
    • It performs tokenization instead of the GPU
    • It can move model weights and other data to the compute units more quickly
    • It makes every model compute-bound
  8. What is the difference between HBM capacity and HBM bandwidth?
    • They are identical measures of GPU clock speed
    • Capacity measures transfer speed and bandwidth measures data size
    • Neither is related to memory
    • Capacity is how much data can be stored; bandwidth is how quickly data can be transferred