Gids-gekoppelde quiz · Middelmatig Niveau

NVLink en GPU-interconnects-quiz

Bekijkt GPU scale-up-links, NVSwitch-fabrics, collectieve communicatie en het onderscheid tussen rack-links en clusternetwerken.

Gerelateerde gidspadenNvlink en GPU-verbindingen
Vraag 1 van 8

Waarom zijn hogesnelheidsverbindingen zoals NVLink nodig voor grote AI-modellen?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Waarom zijn hogesnelheidsverbindingen zoals NVLink nodig voor grote AI-modellen?
    • Omdat de grootste modellen zijn verdeeld over vele GPU's die voortdurend gegevens moeten uitwisselen
    • Omdat één GPU altijd genoeg is, maar het is eenzaam
    • Omdat GPU's verbinding moeten maken met printers
    • Omdat modellen op de interconnect zelf worden opgeslagen
  2. Welk voordeel biedt NVLink ten opzichte van de standaard PCIe-bus voor GPU-naar-GPU-communicatie?
    • Het is langzamer maar goedkoper
    • Veel hogere bandbreedte en lagere latentie
    • Het werkt alleen tussen een GPU en een CPU
    • Het elimineert de noodzaak voor geheugen
  3. Wat is de rol van een NVSwitch in een multi-GPU-server?
    • Het koelt de GPU's met ventilatoren
    • Het slaat het besturingssysteem op
    • Het fungeert als een snelle dwarsbalk, zodat elke GPU elkaar op volledige bandbreedte kan bereiken
    • Het zet stroom uit het stopcontact om
  4. Welke collectieve operatie, gebruikelijk bij gedistribueerde trainingen, profiteert sterk van snelle verbindingen?
    • Een harde schijf defragmenteren
    • Een enkele pixel renderen
    • Het compileren van broncode
    • All-reduce, waarbij de gradiënten tussen GPU's worden opgeteld
  5. Welke technologieën verbinden doorgaans, afgezien van één enkele server, duizenden GPU-knooppunten in één cluster?
    • InfiniBand en RDMA-over-Ethernet
    • USB-kabels en wifi
    • Bluetooth en HDMI
    • Inbelmodems
  6. Wat bereikt een rack-scale-systeem zoals NVIDIA's NVL72?
    • Het is een enkele GPU in een kleine doos
    • Het verbindt tientallen GPU's in één verenigd NVLink-domein
    • Het vervangt alle software door hardware
    • Het is een soort koelvloeistof
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes