Útmutatóhoz kapcsolódó kvíz · Közepes Szint
NVLink és GPU összekapcsolási kvíz
Reviews GPU scale-up links, NVSwitch fabrics, collective communication, and the distinction between rack links and cluster networking.
kérdés 1 -ból 8
Miért van szükség a nagy sebességű összekapcsolásokra, mint az NVLink a nagy mesterséges intelligencia modellekhez?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Miért van szükség a nagy sebességű összekapcsolásokra, mint az NVLink a nagy mesterséges intelligencia modellekhez?
- Mivel a legnagyobb modellek sok GPU között vannak felosztva, amelyeknek folyamatosan adatcserét kell végezniük
- Mert egy GPU mindig elég, de magányos
- Mivel a GPU-knak csatlakozniuk kell a nyomtatókhoz
- Mivel a modelleket magán az interconnect tárolja
- Milyen előnyt kínál az NVLink a szabványos PCIe-busszal szemben a GPU-GPU kommunikációhoz?
- Lassabb, de olcsóbb
- Sokkal nagyobb sávszélesség és alacsonyabb késleltetés
- Csak a GPU és a CPU között működik
- Megszünteti a memória szükségességét
- Mi a szerepe az NVSwitch-nek egy több GPU-s szerverben?
- A GPU-kat ventilátorokkal hűti
- Az operációs rendszert tárolja
- Nagy sebességű keresztlécként működik, így minden GPU teljes sávszélességen elérheti a többit
- Átalakítja az áramot a fali aljzatból
- Melyik, az elosztott képzésben elterjedt kollektív működésnek előnyös a gyors összekapcsolás?
- Merevlemez töredezettségmentesítése
- Egyetlen képpont megjelenítése
- Forráskód fordítása
- All-reduce, amely a GPU-k gradienseit összegzi
- Egyetlen szerveren kívül milyen technológiák kötnek össze több ezer GPU-csomópontot egy fürtbe?
- InfiniBand és RDMA-over-Ethernet
- USB kábelek és Wi-Fi
- Bluetooth és HDMI
- Telefonos modemek
- Mit ér el egy rack-méretű rendszer, mint az NVIDIA NVL72?
- Ez egyetlen GPU egy kis dobozban
- Több tucat GPU-t köt össze egyetlen egységes NVLink tartományba
- Minden szoftvert hardverre cserél
- Ez egyfajta hűtőfolyadék
- Why can a fast GPU fabric improve distributed data-parallel training?
- It removes the need to compute gradients
- It converts training into a database lookup
- It can reduce the time spent exchanging gradients in collectives such as all-reduce
- It prevents GPUs from synchronizing
- How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
- NVLink is only a file format
- InfiniBand runs inside a GPU’s tensor core
- Ethernet is used only for local memory access
- NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes