引导式测验 · 中等 等级

NVLink 和 GPU 互连测验

回顾 GPU 扩展链路、NVSwitch 结构、集体通信以及机架链路和集群网络之间的区别。

相关引导路径Nvlink与GPU互连
问题 1 的 8

为什么大型 AI 模型需要像 NVLink 这样的高速互连？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. 为什么大型 AI 模型需要像 NVLink 这样的高速互连？
    • 因为最大的模型分布在许多必须不断交换数据的 GPU 上
    • 因为一个GPU总是够用但很孤独
    • 因为GPU需要连接打印机
    • 因为模型存储在互连本身上
  2. 与标准 PCIe 总线相比，NVLink 在 GPU 间通信方面具有哪些优势？
    • 速度较慢但较便宜
    • 更高的带宽和更低的延迟
    • 它只能在 GPU 和 CPU 之间工作
    • 它消除了对任何内存的需要
  3. NVSwitch 在多 GPU 服务器中的作用是什么？
    • 它通过风扇冷却 GPU
    • 它存储操作系统
    • 它充当高速交叉开关，因此每个 GPU 都可以以全带宽访问其他 GPU
    • 它转换来自墙壁插座的电源
  4. 分布式训练中常见的哪种集体操作可以从快速互连中受益匪浅？
    • 对硬盘进行碎片整理
    • 渲染单个像素
    • 编译源代码
    • All-reduce，对 GPU 上的梯度求和
  5. 除了一台服务器之外，通常还有哪些技术将数千个 GPU 节点连接到一个集群中？
    • InfiniBand 和以太网 RDMA
    • USB 电缆和 Wi-Fi
    • 蓝牙和 HDMI
    • 拨号调制解调器
  6. 像 NVIDIA 的 NVL72 这样的机架级系统可以实现什么？
    • 它是一个小盒子里的单个 GPU
    • 它将数十个 GPU 连接到一个统一的 NVLink 域
    • 它用硬件取代了所有软件
    • 它是一种冷却液
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes