Rehber bağlantılı sınav · Orta Seviye

NVLink ve GPU Ara Bağlantıları Testi

GPU ölçeklendirme bağlantılarını, NVSwitch yapılarını, toplu iletişimi ve raf bağlantıları ile küme ağı arasındaki farkı gözden geçirir.

İlgili kılavuz yollarıNvlink ve GPU Bağlantıları
Soru 1 arasında 8

Büyük yapay zeka modelleri için neden NVLink gibi yüksek hızlı ara bağlantılara ihtiyaç var?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. Büyük yapay zeka modelleri için neden NVLink gibi yüksek hızlı ara bağlantılara ihtiyaç var?
    • Çünkü en büyük modeller, sürekli olarak veri alışverişinde bulunması gereken birçok GPU'ya bölünmüştür.
    • Çünkü bir GPU her zaman yeterlidir ama yalnızdır
    • Çünkü GPU'ların yazıcılara bağlanması gerekiyor
    • Çünkü modeller ara bağlantının kendisinde saklanıyor
  2. NVLink, GPU'dan GPU'ya iletişim için standart PCIe veri yoluna göre ne gibi avantajlar sunuyor?
    • Daha yavaş ama daha ucuz
    • Çok daha yüksek bant genişliği ve daha düşük gecikme
    • Yalnızca GPU ve CPU arasında çalışır
    • Herhangi bir hafıza ihtiyacını ortadan kaldırır
  3. Çoklu GPU sunucusunda NVSwitch'in rolü nedir?
    • GPU'ları fanlarla soğutur
    • İşletim sistemini saklar
    • Yüksek hızlı bir çapraz çubuk görevi görerek her GPU'nun birbirine tam bant genişliğinde ulaşabilmesini sağlar
    • Duvar prizinden gelen gücü dönüştürür
  4. Dağıtılmış eğitimde yaygın olan hangi kolektif operasyon, hızlı ara bağlantılardan güçlü bir şekilde yararlanır?
    • Sabit sürücüyü birleştirme
    • Tek bir piksel oluşturma
    • Kaynak kodunun derlenmesi
    • GPU'lar arasındaki degradeleri toplayan tümünü azalt
  5. Tek bir sunucunun ötesinde, genellikle hangi teknolojiler binlerce GPU düğümünü tek bir kümeye bağlar?
    • InfiniBand ve Ethernet üzerinden RDMA
    • USB kabloları ve Wi-Fi
    • Bluetooth ve HDMI
    • Çevirmeli modemler
  6. NVIDIA'nın NVL72'si gibi raf ölçekli bir sistem neyi başarıyor?
    • Küçük bir kutuda tek bir GPU'dur
    • Düzinelerce GPU'yu tek bir birleşik NVLink alanına bağlar
    • Tüm yazılımı donanımla değiştirir
    • Bir çeşit soğutma sıvısıdır
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes