Тест, свързан с ръководство · Среден Ниво

Тест за свързване на NVLink и GPU

Преглед на връзките за мащабиране на графичния процесор, NVSwitch тъканите, колективната комуникация и разграничението между връзки към стелажи и клъстерни мрежи.

Свързани ръководни пътекиNvlink и GPU връзки
Въпрос 1 на 8

Защо са необходими високоскоростни връзки като NVLink за големи AI модели?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Защо са необходими високоскоростни връзки като NVLink за големи AI модели?
    • Тъй като най-големите модели са разделени на много графични процесори, които трябва постоянно да обменят данни
    • Защото един GPU винаги е достатъчен, но е самотен
    • Тъй като графичните процесори трябва да се свързват с принтери
    • Тъй като моделите се съхраняват на самата връзка
  2. Какво предимство предлага NVLink пред стандартната PCIe шина за GPU към GPU комуникация?
    • По-бавно е, но по-евтино
    • Много по-висока честотна лента и по-ниска латентност
    • Работи само между GPU и CPU
    • Премахва необходимостта от всякаква памет
  3. Каква е ролята на NVSwitch в мулти-GPU сървър?
    • Охлажда графичните процесори с вентилатори
    • Той съхранява операционната система
    • Той действа като високоскоростна напречна лента, така че всеки графичен процесор може да достигне всеки друг при пълна честотна лента
    • Преобразува захранването от стенния контакт
  4. Коя колективна операция, често срещана в разпределеното обучение, се възползва значително от бързите връзки?
    • Дефрагментиране на твърд диск
    • Изобразяване на единичен пиксел
    • Компилиране на изходния код
    • All-reduce, което сумира градиентите между GPU
  5. Отвъд един сървър, какви технологии обикновено свързват хиляди GPU възли в един клъстер?
    • InfiniBand и RDMA-over-Ethernet
    • USB кабели и Wi-Fi
    • Bluetooth и HDMI
    • Модеми за комутируема връзка
  6. Какво постига система за стелажи като NVL72 на NVIDIA?
    • Това е единичен графичен процесор в малка кутия
    • Той свързва десетки GPU в един обединен NVLink домейн
    • Заменя целия софтуер с хардуер
    • Това е вид охлаждаща течност
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes