Вікторина, пов’язана з посібником · Середній Рівень

Тест про з’єднання NVLink і GPU

Огляд зв’язків масштабування графічного процесора, мереж NVSwitch, колективного зв’язку та різниці між зв’язками стелажів і кластерними мережами.

Пов'язані напрямні шляхиЗ'єднання Nvlink і GPU
Питання 1 з 8

Навіщо потрібні високошвидкісні з’єднання, такі як NVLink, для великих моделей ШІ?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Навіщо потрібні високошвидкісні з’єднання, такі як NVLink, для великих моделей ШІ?
    • Оскільки найбільші моделі розділені на багато графічних процесорів, які повинні постійно обмінюватися даними
    • Тому що одного GPU завжди достатньо, але він самотній
    • Тому що графічні процесори повинні підключатися до принтерів
    • Оскільки моделі зберігаються на самому інтерконнекте
  2. Які переваги пропонує NVLink перед стандартною шиною PCIe для зв’язку GPU-GPU?
    • Це повільніше, але дешевше
    • Набагато вища пропускна здатність і менша затримка
    • Він працює лише між GPU та CPU
    • Це усуває потребу в пам'яті
  3. Яка роль NVSwitch у сервері з кількома GPU?
    • Він охолоджує графічні процесори за допомогою вентиляторів
    • У ньому зберігається операційна система
    • Він діє як високошвидкісна поперечина, тому кожен GPU може досягати будь-якого іншого на повній пропускній здатності
    • Він перетворює живлення від розетки
  4. Яка колективна операція, поширена в розподіленому навчанні, отримує суттєву користь від швидких з’єднань?
    • Дефрагментація жорсткого диска
    • Візуалізація одного пікселя
    • Компіляція вихідного коду
    • All-reduce, який підсумовує градієнти графічних процесорів
  5. Окрім одного сервера, які технології зазвичай об’єднують тисячі вузлів GPU в один кластер?
    • InfiniBand і RDMA через Ethernet
    • USB кабелі та Wi-Fi
    • Bluetooth і HDMI
    • Комутовані модеми
  6. Чого досягає така стелажна система, як NVIDIA NVL72?
    • Це один GPU в маленькій коробці
    • Він об’єднує десятки графічних процесорів в єдиний домен NVLink
    • Він замінює все програмне забезпечення апаратним забезпеченням
    • Це тип охолоджуючої рідини
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes