Quiz collegato alla guida · Medio Livello

Quiz sulla memoria con larghezza di banda elevata

Controlla lo stacking HBM, i TSV, le interfacce ampie, la larghezza di banda rispetto alla capacità e l'attuale generazione HBM4 insieme alle versioni precedenti.

Domanda 1 di 8

Quale problema principale affronta la memoria a larghezza di banda elevata per gli acceleratori IA?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Quale problema principale affronta la memoria a larghezza di banda elevata per gli acceleratori IA?
    • Core di elaborazione inattivi in attesa dell'arrivo dei dati
    • Surriscaldamento delle GPU dovuto a troppa luce
    • Memorizzazione permanente dei file quando l'alimentazione è spenta
    • Connessione della GPU a Internet
  2. In che modo la HBM è costruita fisicamente diversamente dalla normale memoria GDDR?
    • È memorizzato su un disco rigido
    • Impila più die DRAM verticalmente e li collega con via di silicio passanti
    • Utilizza cavi in fibra ottica all'interno del chip
    • Non ha transistor
  3. Su cosa fa affidamento principalmente la HBM per raggiungere la sua elevata larghezza di banda?
    • Velocità di clock molto più elevate rispetto a qualsiasi altra memoria
    • Raffreddamento con azoto liquido
    • Parallelismo estremo attraverso un'interfaccia molto ampia
    • Compressione di tutti i dati a un bit
  4. Perché gli stack HBM sono posizionati su un interpositore di silicio proprio accanto alla GPU?
    • Per migliorare l'aspetto del pacchetto
    • Perché la HBM non può lavorare a più di un metro di distanza
    • Per consentire una facile rimozione da parte dell'utente
    • Per mantenere i cavi corti, riducendo la potenza per bit e la latenza
  5. Nello specifico, per i modelli linguistici di grandi dimensioni, perché l'HBM può essere importante tanto quanto il calcolo grezzo?
    • Perché i pesi dei modelli devono essere trasmessi in streaming costantemente, richiedendo capacità e larghezza di banda elevate
    • Perché i modelli non fanno affatto i conti
    • Perché il calcolo è gratuito ma la memoria è a carico
    • Perché i LLM utilizzano solo la CPU
  6. Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
    • HBM2, HBM2E, HBM4E, then HBM3
    • HBM2, HBM2E, HBM3, HBM3E, and HBM4
    • GDDR6, GDDR7, DDR5, and HBM4
    • HBM3E directly followed by HBM1
  7. Why can high HBM bandwidth help an autoregressive language model during token generation?
    • It eliminates the need to store model weights
    • It performs tokenization instead of the GPU
    • It can move model weights and other data to the compute units more quickly
    • It makes every model compute-bound
  8. What is the difference between HBM capacity and HBM bandwidth?
    • They are identical measures of GPU clock speed
    • Capacity measures transfer speed and bandwidth measures data size
    • Neither is related to memory
    • Capacity is how much data can be stored; bandwidth is how quickly data can be transferred