Cuestionario vinculado a una guía · Medio Nivel

Cuestionario sobre interconexiones de NVLink y GPU

Revisa los enlaces de ampliación de GPU, las estructuras NVSwitch, la comunicación colectiva y la distinción entre enlaces de rack y redes de clúster.

Rutas de guía relacionadasNvlink y GPU se interconectan
Pregunta 1 de 8

¿Por qué se necesitan interconexiones de alta velocidad como NVLink para modelos de IA de gran tamaño?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Por qué se necesitan interconexiones de alta velocidad como NVLink para modelos de IA de gran tamaño?
    • Porque los modelos más grandes se dividen en muchas GPU que deben intercambiar datos constantemente
    • Porque una GPU siempre es suficiente pero es solitaria
    • Porque las GPU necesitan conectarse a las impresoras
    • Porque los modelos se almacenan en la propia interconexión.
  2. ¿Qué ventaja ofrece NVLink sobre el bus PCIe estándar para la comunicación de GPU a GPU?
    • Es más lento pero más barato.
    • Mucho mayor ancho de banda y menor latencia
    • Sólo funciona entre una GPU y una CPU
    • Elimina la necesidad de cualquier memoria.
  3. ¿Cuál es la función de un NVSwitch en un servidor multi-GPU?
    • Enfría las GPU con ventiladores
    • Almacena el sistema operativo.
    • Actúa como una barra transversal de alta velocidad para que cada GPU pueda comunicarse entre sí con el ancho de banda completo.
    • Convierte la energía del tomacorriente de pared
  4. ¿Qué operación colectiva, común en la formación distribuida, se beneficia enormemente de las interconexiones rápidas?
    • Desfragmentar un disco duro
    • Renderizando un solo píxel
    • Compilando código fuente
    • Reducción total, que suma gradientes entre GPU
  5. Más allá de un único servidor, ¿qué tecnologías suelen conectar miles de nodos GPU en un clúster?
    • InfiniBand y RDMA sobre Ethernet
    • Cables USB y Wi-Fi
    • Bluetooth y HDMI
    • Módems de acceso telefónico
  6. ¿Qué logra un sistema a escala de rack como el NVL72 de NVIDIA?
    • Es una única GPU en una caja pequeña.
    • Conecta docenas de GPU en un dominio NVLink unificado
    • Reemplaza todo el software con hardware.
    • Es un tipo de fluido refrigerante.
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes