Quiz collegato alla guida · Medio Livello
Quiz sulle interconnessioni NVLink e GPU
Esamina i collegamenti scale-up GPU, le strutture NVSwitch, la comunicazione collettiva e la distinzione tra collegamenti rack e reti cluster.
Domanda 1 di 8
Perché sono necessarie interconnessioni ad alta velocità come NVLink per i modelli IA di grandi dimensioni?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Perché sono necessarie interconnessioni ad alta velocità come NVLink per i modelli IA di grandi dimensioni?
- Perché i modelli più grandi sono suddivisi su molte GPU che devono scambiarsi costantemente dati
- Perché una GPU è sempre sufficiente ma è solitaria
- Perché le GPU devono connettersi alle stampanti
- Perché i modelli sono memorizzati sull'interconnessione stessa
- Quale vantaggio offre NVLink rispetto al bus PCIe standard per la comunicazione da GPU a GPU?
- È più lento ma più economico
- Larghezza di banda molto più elevata e latenza inferiore
- Funziona solo tra una GPU e una CPU
- Elimina la necessità di qualsiasi memoria
- Qual è il ruolo di un NVSwitch in un server multi-GPU?
- Raffredda le GPU con i fan
- Memorizza il sistema operativo
- Funziona come una traversa ad alta velocità in modo che ogni GPU possa raggiungersi a vicenda con la massima larghezza di banda
- Converte l'energia dalla presa a muro
- Quale operazione collettiva, comune nella formazione distribuita, trae grandi benefici dalle interconnessioni veloci?
- Deframmentare un disco rigido
- Rendering di un singolo pixel
- Compilazione del codice sorgente
- Riduzione totale, che somma i gradienti tra le GPU
- Oltre a un singolo server, quali tecnologie in genere connettono migliaia di nodi GPU in un unico cluster?
- InfiniBand e RDMA su Ethernet
- Cavi USB e Wi-Fi
- Bluetooth e HDMI
- Modem di accesso remoto
- Cosa può ottenere un sistema su scala rack come NVL72 di NVIDIA?
- È una singola GPU in una piccola scatola
- Collega dozzine di GPU in un dominio NVLink unificato
- Sostituisce tutto il software con l'hardware
- È un tipo di fluido di raffreddamento
- Perché un tessuto GPU veloce può migliorare l'addestramento distribuito data-parallel?
- Elimina la necessità di calcolare i gradienti
- Converte l'addestramento in una ricerca in un database
- Può ridurre il tempo speso nello scambio di gradienti nei collettivi come l'all-reduce
- Previene la sincronizzazione delle GPU
- In che modo un tessuto NVLink scale-up differisce da InfiniBand o Ethernet usati in un cluster?
- NVLink è solo un formato di file
- InfiniBand funziona all'interno del tensor core di una GPU
- Ethernet è usato solo per l'accesso alla memoria locale
- NVLink collega le GPU all'interno di sistemi o domini rack supportati; InfiniBand ed Ethernet collegano comunemente i nodi del cluster