高帯域幅メモリに関するクイズ

クイズに答えると、答えと解説が表示されます。

1. 高帯域幅メモリは AI アクセラレータにとってどのような主な問題に対処しますか?
   • データの到着を待っている間アイドル状態にあるコンピューティング コア
   • 光が多すぎるとGPUが過熱する
   • 電源オフ時にファイルを永続的に保存する
   • GPUをインターネットに接続する
2. HBM は通常の GDDR メモリと物理的にどのように構築されていますか?
   • ハードドライブに保存されます
   • 複数の DRAM ダイを垂直に積み重ね、シリコン貫通ビアで接続します。
   • チップ内に光ファイバーケーブルを使用
   • トランジスタは付いていない
3. HBM は高帯域幅を実現するために主に何に依存していますか?
   • 他のメモリよりもはるかに高いクロック速度
   • 液体窒素による冷却
   • 非常に幅広いインターフェイスによる究極の並列処理
   • すべてのデータを 1 ビットに圧縮する
4. HBM スタックが GPU のすぐ隣のシリコン インターポーザーに配置されているのはなぜですか?
   • パッケージの見栄えを良くするために
   • HBM は 1 メートル以上離れて作業できないため
   • ユーザーが簡単に削除できるようにするため
   • ワイヤを短く保ち、ビットあたりの電力と遅延を削減します。
5. 特に大規模な言語モデルの場合、HBM が生のコンピューティングと同じくらい重要になるのはなぜでしょうか?
   • モデルの重みを常にストリーミングする必要があり、大容量と帯域幅が必要となるため
   • モデルはまったく数学を行わないため、
   • コンピューティングは無料ですが、メモリには負担がかかるため
   • LLM は CPU のみを使用するため、
6. Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
   • HBM2, HBM2E, HBM4E, then HBM3
   • HBM2, HBM2E, HBM3, HBM3E, and HBM4
   • GDDR6, GDDR7, DDR5, and HBM4
   • HBM3E directly followed by HBM1
7. Why can high HBM bandwidth help an autoregressive language model during token generation?
   • It eliminates the need to store model weights
   • It performs tokenization instead of the GPU
   • It can move model weights and other data to the compute units more quickly
   • It makes every model compute-bound
8. What is the difference between HBM capacity and HBM bandwidth?
   • They are identical measures of GPU clock speed
   • Capacity measures transfer speed and bandwidth measures data size
   • Neither is related to memory
   • Capacity is how much data can be stored; bandwidth is how quickly data can be transferred