Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Bài kiểm tra kết nối NVLink và GPU

Đánh giá các liên kết mở rộng quy mô GPU, kết cấu NVSwitch, giao tiếp tập thể và sự khác biệt giữa liên kết giá đỡ và mạng cụm.

Đường dẫn hướng dẫn liên quanKết nối Nvlink và GPU
Câu hỏi 1 của 8

Tại sao các mô hình AI lớn lại cần kết nối tốc độ cao như NVLink?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Tại sao các mô hình AI lớn lại cần kết nối tốc độ cao như NVLink?
    • Bởi vì các mô hình lớn nhất được chia thành nhiều GPU phải liên tục trao đổi dữ liệu
    • Bởi vì một GPU luôn là đủ nhưng cô đơn
    • Vì GPU cần kết nối với máy in
    • Bởi vì các mô hình được lưu trữ trên chính kết nối đó
  2. NVLink mang lại lợi thế gì so với bus PCIe tiêu chuẩn để liên lạc giữa GPU với GPU?
    • Nó chậm hơn nhưng rẻ hơn
    • Băng thông cao hơn nhiều và độ trễ thấp hơn
    • Nó chỉ hoạt động giữa GPU và CPU
    • Nó loại bỏ sự cần thiết của bất kỳ bộ nhớ nào
  3. Vai trò của NVSwitch trong máy chủ đa GPU là gì?
    • Nó làm mát GPU bằng quạt
    • Nó lưu trữ hệ điều hành
    • Nó hoạt động như một thanh ngang tốc độ cao để mọi GPU có thể tiếp cận nhau ở băng thông tối đa
    • Nó chuyển đổi năng lượng từ ổ cắm trên tường
  4. Hoạt động tập thể nào, phổ biến trong đào tạo phân tán, được hưởng lợi nhiều từ sự kết nối nhanh chóng?
    • Chống phân mảnh ổ cứng
    • Hiển thị một pixel
    • Biên dịch mã nguồn
    • Giảm toàn bộ, tính tổng độ dốc trên các GPU
  5. Ngoài một máy chủ, công nghệ nào thường kết nối hàng nghìn nút GPU vào một cụm?
    • InfiniBand và RDMA qua Ethernet
    • Cáp USB và Wi-Fi
    • Bluetooth và HDMI
    • Các modem quay số
  6. Một hệ thống quy mô rack như NVL72 của NVIDIA đạt được điều gì?
    • Nó là một GPU duy nhất trong một hộp nhỏ
    • Nó kết nối hàng chục GPU vào một miền NVLink thống nhất
    • Nó thay thế tất cả phần mềm bằng phần cứng
    • Nó là một loại chất lỏng làm mát
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes