引导式测验 · 中等 等级

高带宽内存测验

检查 HBM 堆叠、TSV、宽接口、带宽与容量以及当前 HBM4 代与早期版本。

相关引导路径高带宽内存
问题 1 的 8

高带宽内存为 AI 加速器解决的主要问题是什么?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. 高带宽内存为 AI 加速器解决的主要问题是什么?
    • 计算核心在等待数据到达时处于空闲状态
    • GPU 因光线过多而过热
    • 断电时永久保存文件
    • 将 GPU 连接到互联网
  2. HBM 的物理构造与普通 GDDR 内存有何不同?
    • 它存储在硬盘上
    • 它垂直堆叠多个 DRAM 芯片,并通过硅通孔将它们连接起来
    • 它在芯片内部使用光纤电缆
    • 它没有晶体管
  3. HBM主要依靠什么来实现其高带宽?
    • 比任何其他内存更高的时钟速度
    • 用液氮冷却
    • 通过非常广泛的接口实现极端并行性
    • 将所有数据压缩为一位
  4. 为什么 HBM 堆栈放置在 GPU 旁边的硅中介层上?
    • 为了让包看起来更好
    • 因为 HBM 无法在一米之外工作
    • 以便用户轻松删除
    • 保持电线较短,降低每位功耗和延迟
  5. 特别是对于大型语言模型,为什么 HBM 与原始计算一样重要?
    • 由于模型权重必须不断传输,因此需要高容量和带宽
    • 因为模型根本不做数学
    • 因为计算是免费的,但内存是要征税的
    • 因为LLM只使用CPU
  6. 哪些 HBM 代际属于从 HBM2 到目前采样的 HBM4 产品的演进过程?
    • HBM2、HBM2E、HBM4E,然后是 HBM3
    • HBM2、HBM2E、HBM3、HBM3E 和 HBM4
    • GDDR6、GDDR7、DDR5 和 HBM4
    • HBM3E 直接后接 HBM1
  7. 为什么高 HBM 带宽能在生成 token 时帮助自回归语言模型?
    • 它消除了存储模型权重的需求
    • 它执行分词而不是 GPU
    • 它可以更快地将模型权重和其他数据移动到计算单元
    • 它使每个模型都受计算限制
  8. HBM 容量和 HBM 带宽之间有什么区别?
    • 它们是 GPU 时钟速度的相同度量
    • 容量衡量传输速度,带宽衡量数据大小
    • 两者都与内存无关
    • 容量是可以存储多少数据;带宽是数据传输的速度