引導式測驗 · 中等 等級

高頻寬記憶體測驗

檢查 HBM 堆疊、TSV、寬介面、頻寬與容量以及目前 HBM4 代與早期版本。

相關引導路徑高頻寬內存
問題 1 的 8

高頻寬記憶體為 AI 加速器解決的主要問題是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 高頻寬記憶體為 AI 加速器解決的主要問題是什麼?
    • 計算核心在等待資料到達時處於空閒狀態
    • GPU 因光線過多而過熱
    • 斷電時永久保存文件
    • 將 GPU 連接到互聯網
  2. HBM 的物理構造與一般 GDDR 記憶體有何不同?
    • 它儲存在硬碟上
    • 它垂直堆疊多個 DRAM 晶片,並透過矽通孔將它們連接起來
    • 它在晶片內部使用光纖電纜
    • 它沒有晶體管
  3. HBM主要依靠什麼來實現其高頻寬?
    • 比任何其他記憶體更高的時脈速度
    • 用液態氮冷卻
    • 透過非常廣泛的介面實現極端並行性
    • 將所有資料壓縮為一位
  4. 為什麼 HBM 堆疊放置在 GPU 旁邊的矽中介層上?
    • 為了讓包包看起來更好
    • 因為 HBM 無法在一公尺之外工作
    • 以便使用者輕鬆刪除
    • 保持電線較短,降低每位功耗和延遲
  5. 特別是對於大型語言模型,為什麼 HBM 與原始計算一樣重要?
    • 由於模型權重必須不斷傳輸,因此需要高容量和頻寬
    • 因為模型根本不做數學
    • 因為計算是免費的,但記憶體是要課稅的
    • 因為LLM只使用CPU
  6. 從 HBM2 到目前正在送樣的 HBM4 產品,其發展歷程包含了哪些 HBM 世代?
    • HBM2、HBM2E、HBM4E,然後是 HBM3
    • HBM2、HBM2E、HBM3、HBM3E 與 HBM4
    • GDDR6、GDDR7、DDR5 與 HBM4
    • HBM3E 直接由 HBM1 接續
  7. 為什麼高 HBM 頻寬可以在自迴歸語言模型產生 Token 的過程中提供幫助?
    • 它消除了儲存模型權重的需求
    • 它負責執行 Token 化而非由 GPU 執行
    • 它可以更快地將模型權重和其他資料移動到運算單元
    • 它使每個模型都受限於運算能力
  8. HBM 容量與 HBM 頻寬有什麼區別?
    • 它們是 GPU 時脈速度的相同量測標準
    • 容量量測傳輸速度,而頻寬量測資料大小
    • 兩者皆與記憶體無關
    • 容量是指可儲存多少資料;頻寬是指資料傳輸的速度