Gids-gekoppelde quiz · Middelmatig Niveau
NVLink en GPU-interconnects-quiz
Bekijkt GPU scale-up-links, NVSwitch-fabrics, collectieve communicatie en het onderscheid tussen rack-links en clusternetwerken.
Vraag 1 van 8
Waarom zijn hogesnelheidsverbindingen zoals NVLink nodig voor grote AI-modellen?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Waarom zijn hogesnelheidsverbindingen zoals NVLink nodig voor grote AI-modellen?
- Omdat de grootste modellen zijn verdeeld over vele GPU's die voortdurend gegevens moeten uitwisselen
- Omdat één GPU altijd genoeg is, maar het is eenzaam
- Omdat GPU's verbinding moeten maken met printers
- Omdat modellen op de interconnect zelf worden opgeslagen
- Welk voordeel biedt NVLink ten opzichte van de standaard PCIe-bus voor GPU-naar-GPU-communicatie?
- Het is langzamer maar goedkoper
- Veel hogere bandbreedte en lagere latentie
- Het werkt alleen tussen een GPU en een CPU
- Het elimineert de noodzaak voor geheugen
- Wat is de rol van een NVSwitch in een multi-GPU-server?
- Het koelt de GPU's met ventilatoren
- Het slaat het besturingssysteem op
- Het fungeert als een snelle dwarsbalk, zodat elke GPU elkaar op volledige bandbreedte kan bereiken
- Het zet stroom uit het stopcontact om
- Welke collectieve operatie, gebruikelijk bij gedistribueerde trainingen, profiteert sterk van snelle verbindingen?
- Een harde schijf defragmenteren
- Een enkele pixel renderen
- Het compileren van broncode
- All-reduce, waarbij de gradiënten tussen GPU's worden opgeteld
- Welke technologieën verbinden doorgaans, afgezien van één enkele server, duizenden GPU-knooppunten in één cluster?
- InfiniBand en RDMA-over-Ethernet
- USB-kabels en wifi
- Bluetooth en HDMI
- Inbelmodems
- Wat bereikt een rack-scale-systeem zoals NVIDIA's NVL72?
- Het is een enkele GPU in een kleine doos
- Het verbindt tientallen GPU's in één verenigd NVLink-domein
- Het vervangt alle software door hardware
- Het is een soort koelvloeistof
- Why can a fast GPU fabric improve distributed data-parallel training?
- It removes the need to compute gradients
- It converts training into a database lookup
- It can reduce the time spent exchanging gradients in collectives such as all-reduce
- It prevents GPUs from synchronizing
- How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
- NVLink is only a file format
- InfiniBand runs inside a GPU’s tensor core
- Ethernet is used only for local memory access
- NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes