Útmutatóhoz kapcsolódó kvíz · Közepes Szint

NVLink és GPU összekapcsolási kvíz

Reviews GPU scale-up links, NVSwitch fabrics, collective communication, and the distinction between rack links and cluster networking.

Kapcsolódó útmutató utakNvlink és GPU összeköttetések
kérdés 1 -ból 8

Miért van szükség a nagy sebességű összekapcsolásokra, mint az NVLink a nagy mesterséges intelligencia modellekhez?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Miért van szükség a nagy sebességű összekapcsolásokra, mint az NVLink a nagy mesterséges intelligencia modellekhez?
    • Mivel a legnagyobb modellek sok GPU között vannak felosztva, amelyeknek folyamatosan adatcserét kell végezniük
    • Mert egy GPU mindig elég, de magányos
    • Mivel a GPU-knak csatlakozniuk kell a nyomtatókhoz
    • Mivel a modelleket magán az interconnect tárolja
  2. Milyen előnyt kínál az NVLink a szabványos PCIe-busszal szemben a GPU-GPU kommunikációhoz?
    • Lassabb, de olcsóbb
    • Sokkal nagyobb sávszélesség és alacsonyabb késleltetés
    • Csak a GPU és a CPU között működik
    • Megszünteti a memória szükségességét
  3. Mi a szerepe az NVSwitch-nek egy több GPU-s szerverben?
    • A GPU-kat ventilátorokkal hűti
    • Az operációs rendszert tárolja
    • Nagy sebességű keresztlécként működik, így minden GPU teljes sávszélességen elérheti a többit
    • Átalakítja az áramot a fali aljzatból
  4. Melyik, az elosztott képzésben elterjedt kollektív működésnek előnyös a gyors összekapcsolás?
    • Merevlemez töredezettségmentesítése
    • Egyetlen képpont megjelenítése
    • Forráskód fordítása
    • All-reduce, amely a GPU-k gradienseit összegzi
  5. Egyetlen szerveren kívül milyen technológiák kötnek össze több ezer GPU-csomópontot egy fürtbe?
    • InfiniBand és RDMA-over-Ethernet
    • USB kábelek és Wi-Fi
    • Bluetooth és HDMI
    • Telefonos modemek
  6. Mit ér el egy rack-méretű rendszer, mint az NVIDIA NVL72?
    • Ez egyetlen GPU egy kis dobozban
    • Több tucat GPU-t köt össze egyetlen egységes NVLink tartományba
    • Minden szoftvert hardverre cserél
    • Ez egyfajta hűtőfolyadék
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes