Quiz collegato alla guida · Medio Livello

Quiz sulle interconnessioni NVLink e GPU

Esamina i collegamenti scale-up GPU, le strutture NVSwitch, la comunicazione collettiva e la distinzione tra collegamenti rack e reti cluster.

Percorsi guida correlatiNvlink e GPU si interconnettono
Domanda 1 di 8

Perché sono necessarie interconnessioni ad alta velocità come NVLink per i modelli IA di grandi dimensioni?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Perché sono necessarie interconnessioni ad alta velocità come NVLink per i modelli IA di grandi dimensioni?
    • Perché i modelli più grandi sono suddivisi su molte GPU che devono scambiarsi costantemente dati
    • Perché una GPU è sempre sufficiente ma è solitaria
    • Perché le GPU devono connettersi alle stampanti
    • Perché i modelli sono memorizzati sull'interconnessione stessa
  2. Quale vantaggio offre NVLink rispetto al bus PCIe standard per la comunicazione da GPU a GPU?
    • È più lento ma più economico
    • Larghezza di banda molto più elevata e latenza inferiore
    • Funziona solo tra una GPU e una CPU
    • Elimina la necessità di qualsiasi memoria
  3. Qual è il ruolo di un NVSwitch in un server multi-GPU?
    • Raffredda le GPU con i fan
    • Memorizza il sistema operativo
    • Funziona come una traversa ad alta velocità in modo che ogni GPU possa raggiungersi a vicenda con la massima larghezza di banda
    • Converte l'energia dalla presa a muro
  4. Quale operazione collettiva, comune nella formazione distribuita, trae grandi benefici dalle interconnessioni veloci?
    • Deframmentare un disco rigido
    • Rendering di un singolo pixel
    • Compilazione del codice sorgente
    • Riduzione totale, che somma i gradienti tra le GPU
  5. Oltre a un singolo server, quali tecnologie in genere connettono migliaia di nodi GPU in un unico cluster?
    • InfiniBand e RDMA su Ethernet
    • Cavi USB e Wi-Fi
    • Bluetooth e HDMI
    • Modem di accesso remoto
  6. Cosa può ottenere un sistema su scala rack come NVL72 di NVIDIA?
    • È una singola GPU in una piccola scatola
    • Collega dozzine di GPU in un dominio NVLink unificato
    • Sostituisce tutto il software con l'hardware
    • È un tipo di fluido di raffreddamento
  7. Perché un tessuto GPU veloce può migliorare l'addestramento distribuito data-parallel?
    • Elimina la necessità di calcolare i gradienti
    • Converte l'addestramento in una ricerca in un database
    • Può ridurre il tempo speso nello scambio di gradienti nei collettivi come l'all-reduce
    • Previene la sincronizzazione delle GPU
  8. In che modo un tessuto NVLink scale-up differisce da InfiniBand o Ethernet usati in un cluster?
    • NVLink è solo un formato di file
    • InfiniBand funziona all'interno del tensor core di una GPU
    • Ethernet è usato solo per l'accesso alla memoria locale
    • NVLink collega le GPU all'interno di sistemi o domini rack supportati; InfiniBand ed Ethernet collegano comunemente i nodi del cluster