Quiz lié à un guide · Moyen Niveau

Quiz sur les interconnexions NVLink et GPU

Examine les liens de mise à l'échelle GPU, les structures NVSwitch, la communication collective et la distinction entre les liens de rack et la mise en réseau de cluster.

Chemins de guidage associésInterconnexions Nvlink et GPU
Question 1 de 8

Pourquoi des interconnexions à haut débit comme NVLink sont-elles nécessaires pour les grands modèles d'IA ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Pourquoi des interconnexions à haut débit comme NVLink sont-elles nécessaires pour les grands modèles d'IA ?
    • Parce que les plus gros modèles sont répartis sur de nombreux GPU qui doivent constamment échanger des données
    • Parce qu'un GPU suffit toujours mais il est solitaire
    • Parce que les GPU doivent se connecter aux imprimantes
    • Parce que les modèles sont stockés sur l'interconnexion elle-même
  2. Quel avantage NVLink offre-t-il par rapport au bus PCIe standard pour la communication GPU à GPU ?
    • C'est plus lent mais moins cher
    • Bande passante beaucoup plus élevée et latence plus faible
    • Cela ne fonctionne qu'entre un GPU et un CPU
    • Cela supprime le besoin de toute mémoire
  3. Quel est le rôle d'un NVSwitch dans un serveur multi-GPU ?
    • Il refroidit les GPU avec des ventilateurs
    • Il stocke le système d'exploitation
    • Il agit comme une barre transversale à grande vitesse afin que chaque GPU puisse atteindre les autres avec une bande passante complète.
    • Il convertit l'énergie de la prise murale
  4. Quelle opération collective, courante dans la formation distribuée, bénéficie fortement d’interconnexions rapides ?
    • Défragmenter un disque dur
    • Rendu d'un seul pixel
    • Compilation du code source
    • All-reduce, qui additionne les dégradés sur les GPU
  5. Au-delà d’un seul serveur, quelles technologies connectent généralement des milliers de nœuds GPU en un seul cluster ?
    • InfiniBand et RDMA sur Ethernet
    • Câbles USB et Wi-Fi
    • Bluetooth et HDMI
    • Modems commutés
  6. Que permet un système à l'échelle d'un rack comme le NVL72 de NVIDIA ?
    • C'est un seul GPU dans un petit boîtier
    • Il connecte des dizaines de GPU en un seul domaine NVLink unifié
    • Il remplace tous les logiciels par du matériel
    • C'est un type de liquide de refroidissement
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes