Kuis terkait panduan · Sedang Tingkat

Kuis Interkoneksi NVLink dan GPU

Meninjau tautan peningkatan GPU, struktur NVSwitch, komunikasi kolektif, dan perbedaan antara tautan rak dan jaringan cluster.

Jalur panduan terkaitInterkoneksi Nvlink dan GPU
Pertanyaan 1 dari 8

Mengapa interkoneksi berkecepatan tinggi seperti NVLink diperlukan untuk model AI besar?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Mengapa interkoneksi berkecepatan tinggi seperti NVLink diperlukan untuk model AI besar?
    • Karena model terbesar terbagi menjadi banyak GPU yang harus terus-menerus bertukar data
    • Karena satu GPU selalu cukup tetapi terasa sepi
    • Karena GPU perlu terhubung ke printer
    • Karena model disimpan di interkoneksi itu sendiri
  2. Apa keunggulan yang ditawarkan NVLink dibandingkan bus PCIe standar untuk komunikasi GPU-ke-GPU?
    • Ini lebih lambat tetapi lebih murah
    • Bandwidth yang jauh lebih tinggi dan latensi lebih rendah
    • Ini hanya bekerja antara GPU dan CPU
    • Ini menghilangkan kebutuhan akan memori apa pun
  3. Apa peran NVSwitch di server multi-GPU?
    • Ini mendinginkan GPU dengan kipas
    • Ini menyimpan sistem operasi
    • Ini bertindak sebagai palang berkecepatan tinggi sehingga setiap GPU dapat menjangkau satu sama lain dengan bandwidth penuh
    • Ini mengubah daya dari stopkontak
  4. Operasi kolektif mana, yang umum terjadi pada pelatihan terdistribusi, yang mendapat manfaat besar dari interkoneksi cepat?
    • Mendefragmentasi hard drive
    • Merender satu piksel
    • Kompilasi kode sumber
    • All-reduce, yang menjumlahkan gradien di seluruh GPU
  5. Selain satu server, teknologi apa yang biasanya menghubungkan ribuan node GPU ke dalam satu cluster?
    • InfiniBand dan RDMA-melalui-Ethernet
    • Kabel USB dan Wi-Fi
    • Bluetooth dan HDMI
    • Modem dial-up
  6. Apa yang dicapai oleh sistem skala rak seperti NVL72 NVIDIA?
    • Ini adalah GPU tunggal dalam kotak kecil
    • Ini menghubungkan lusinan GPU ke dalam satu domain NVLink terpadu
    • Ini menggantikan semua perangkat lunak dengan perangkat keras
    • Ini adalah jenis cairan pendingin
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes