Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Saling Sambung NVLink dan GPU

Semak pautan skala GPU, fabrik NVSwitch, komunikasi kolektif dan perbezaan antara pautan rak dan rangkaian kelompok.

Laluan panduan yang berkaitanSambungan Nvlink Dan GPU
soalan 1 daripada 8

Mengapakah sambungan berkelajuan tinggi seperti NVLink diperlukan untuk model AI yang besar?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Mengapakah sambungan berkelajuan tinggi seperti NVLink diperlukan untuk model AI yang besar?
    • Kerana model terbesar dibahagikan kepada banyak GPU yang mesti sentiasa bertukar data
    • Kerana satu GPU sentiasa mencukupi tetapi ia sunyi
    • Kerana GPU perlu menyambung ke pencetak
    • Kerana model disimpan pada interkoneksi itu sendiri
  2. Apakah kelebihan yang ditawarkan NVLink berbanding bas PCIe standard untuk komunikasi GPU-ke-GPU?
    • Ia lebih perlahan tetapi lebih murah
    • Lebar lebar yang lebih tinggi dan kependaman yang lebih rendah
    • Ia hanya berfungsi antara GPU dan CPU
    • Ia menghilangkan keperluan untuk sebarang ingatan
  3. Apakah peranan NVSwitch dalam pelayan berbilang GPU?
    • Ia menyejukkan GPU dengan peminat
    • Ia menyimpan sistem pengendalian
    • Ia bertindak sebagai palang berkelajuan tinggi supaya setiap GPU boleh mencapai satu sama lain pada lebar jalur penuh
    • Ia menukar kuasa daripada alur keluar dinding
  4. Operasi kolektif yang manakah, yang biasa dalam latihan teragih, mendapat manfaat yang besar daripada sambungan pantas?
    • Menyahfragmentasi cakera keras
    • Memaparkan satu piksel
    • Menyusun kod sumber
    • All-reduce, yang menjumlahkan kecerunan merentas GPU
  5. Di luar satu pelayan, apakah teknologi yang biasanya menghubungkan beribu-ribu nod GPU ke dalam satu kelompok?
    • InfiniBand dan RDMA-over-Ethernet
    • Kabel USB dan Wi-Fi
    • Bluetooth dan HDMI
    • Modem dail
  6. Apakah yang dicapai oleh sistem skala rak seperti NVL72 NVIDIA?
    • Ia adalah GPU tunggal dalam kotak kecil
    • Ia menghubungkan berpuluh-puluh GPU ke dalam satu domain NVLink bersatu
    • Ia menggantikan semua perisian dengan perkakasan
    • Ia adalah sejenis cecair penyejuk
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes