NVLink 및 GPU 상호 연결 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 대규모 AI 모델에 NVLink와 같은 고속 상호 연결이 필요한 이유는 무엇입니까?
   • 가장 큰 모델은 지속적으로 데이터를 교환해야 하는 여러 GPU로 분할되어 있기 때문입니다.
   • GPU 하나면 언제나 충분하지만 외롭기 때문이죠
   • GPU를 프린터에 연결해야 하기 때문에
   • 모델은 상호 연결 자체에 저장되기 때문에
2. NVLink는 GPU 간 통신을 위해 표준 PCIe 버스에 비해 어떤 이점을 제공합니까?
   • 속도는 느리지만 가격은 저렴하다
   • 훨씬 더 높은 대역폭과 더 낮은 대기 시간
   • GPU와 CPU 사이에서만 작동합니다.
   • 메모리가 필요하지 않습니다.
3. 다중 GPU 서버에서 NVSwitch의 역할은 무엇입니까?
   • 팬으로 GPU를 냉각시킵니다.
   • 운영 체제를 저장합니다.
   • 모든 GPU가 전체 대역폭에서 서로 도달할 수 있도록 고속 크로스바 역할을 합니다.
   • 벽면 콘센트의 전력을 변환합니다.
4. 분산 훈련에서 흔히 사용되는 집단 작업은 빠른 상호 연결로 인해 큰 이점을 얻습니까?
   • 하드 드라이브 조각 모음
   • 단일 픽셀 렌더링
   • 소스 코드 컴파일
   • GPU 전체의 기울기를 합산하는 All-Reduce
5. 단일 서버 외에도 일반적으로 수천 개의 GPU 노드를 하나의 클러스터에 연결하는 기술은 무엇입니까?
   • InfiniBand 및 RDMA-over-Ethernet
   • USB 케이블 및 Wi-Fi
   • 블루투스와 HDMI
   • 전화 접속 모뎀
6. NVIDIA의 NVL72와 같은 랙 규모 시스템은 무엇을 달성합니까?
   • 작은 상자에 담긴 단일 GPU입니다.
   • 수십 개의 GPU를 하나의 통합 NVLink 도메인으로 연결합니다.
   • 모든 소프트웨어를 하드웨어로 대체합니다.
   • 냉각수 종류입니다
7. Why can a fast GPU fabric improve distributed data-parallel training?
   • It removes the need to compute gradients
   • It converts training into a database lookup
   • It can reduce the time spent exchanging gradients in collectives such as all-reduce
   • It prevents GPUs from synchronizing
8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
   • NVLink is only a file format
   • InfiniBand runs inside a GPU’s tensor core
   • Ethernet is used only for local memory access
   • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes