Quiz collegato alla guida · Medio Livello
Quiz sulla memoria con larghezza di banda elevata
Controlla lo stacking HBM, i TSV, le interfacce ampie, la larghezza di banda rispetto alla capacità e l'attuale generazione HBM4 insieme alle versioni precedenti.
Domanda 1 di 8
Quale problema principale affronta la memoria a larghezza di banda elevata per gli acceleratori IA?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Quale problema principale affronta la memoria a larghezza di banda elevata per gli acceleratori IA?
- Core di elaborazione inattivi in attesa dell'arrivo dei dati
- Surriscaldamento delle GPU dovuto a troppa luce
- Memorizzazione permanente dei file quando l'alimentazione è spenta
- Connessione della GPU a Internet
- In che modo la HBM è costruita fisicamente diversamente dalla normale memoria GDDR?
- È memorizzato su un disco rigido
- Impila più die DRAM verticalmente e li collega con via di silicio passanti
- Utilizza cavi in fibra ottica all'interno del chip
- Non ha transistor
- Su cosa fa affidamento principalmente la HBM per raggiungere la sua elevata larghezza di banda?
- Velocità di clock molto più elevate rispetto a qualsiasi altra memoria
- Raffreddamento con azoto liquido
- Parallelismo estremo attraverso un'interfaccia molto ampia
- Compressione di tutti i dati a un bit
- Perché gli stack HBM sono posizionati su un interpositore di silicio proprio accanto alla GPU?
- Per migliorare l'aspetto del pacchetto
- Perché la HBM non può lavorare a più di un metro di distanza
- Per consentire una facile rimozione da parte dell'utente
- Per mantenere i cavi corti, riducendo la potenza per bit e la latenza
- Nello specifico, per i modelli linguistici di grandi dimensioni, perché l'HBM può essere importante tanto quanto il calcolo grezzo?
- Perché i pesi dei modelli devono essere trasmessi in streaming costantemente, richiedendo capacità e larghezza di banda elevate
- Perché i modelli non fanno affatto i conti
- Perché il calcolo è gratuito ma la memoria è a carico
- Perché i LLM utilizzano solo la CPU
- Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
- HBM2, HBM2E, HBM4E, then HBM3
- HBM2, HBM2E, HBM3, HBM3E, and HBM4
- GDDR6, GDDR7, DDR5, and HBM4
- HBM3E directly followed by HBM1
- Why can high HBM bandwidth help an autoregressive language model during token generation?
- It eliminates the need to store model weights
- It performs tokenization instead of the GPU
- It can move model weights and other data to the compute units more quickly
- It makes every model compute-bound
- What is the difference between HBM capacity and HBM bandwidth?
- They are identical measures of GPU clock speed
- Capacity measures transfer speed and bandwidth measures data size
- Neither is related to memory
- Capacity is how much data can be stored; bandwidth is how quickly data can be transferred