Rehber bağlantılı sınav · Orta Seviye
NVLink ve GPU Ara Bağlantıları Testi
GPU ölçeklendirme bağlantılarını, NVSwitch yapılarını, toplu iletişimi ve raf bağlantıları ile küme ağı arasındaki farkı gözden geçirir.
Soru 1 arasında 8
Büyük yapay zeka modelleri için neden NVLink gibi yüksek hızlı ara bağlantılara ihtiyaç var?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- Büyük yapay zeka modelleri için neden NVLink gibi yüksek hızlı ara bağlantılara ihtiyaç var?
- Çünkü en büyük modeller, sürekli olarak veri alışverişinde bulunması gereken birçok GPU'ya bölünmüştür.
- Çünkü bir GPU her zaman yeterlidir ama yalnızdır
- Çünkü GPU'ların yazıcılara bağlanması gerekiyor
- Çünkü modeller ara bağlantının kendisinde saklanıyor
- NVLink, GPU'dan GPU'ya iletişim için standart PCIe veri yoluna göre ne gibi avantajlar sunuyor?
- Daha yavaş ama daha ucuz
- Çok daha yüksek bant genişliği ve daha düşük gecikme
- Yalnızca GPU ve CPU arasında çalışır
- Herhangi bir hafıza ihtiyacını ortadan kaldırır
- Çoklu GPU sunucusunda NVSwitch'in rolü nedir?
- GPU'ları fanlarla soğutur
- İşletim sistemini saklar
- Yüksek hızlı bir çapraz çubuk görevi görerek her GPU'nun birbirine tam bant genişliğinde ulaşabilmesini sağlar
- Duvar prizinden gelen gücü dönüştürür
- Dağıtılmış eğitimde yaygın olan hangi kolektif operasyon, hızlı ara bağlantılardan güçlü bir şekilde yararlanır?
- Sabit sürücüyü birleştirme
- Tek bir piksel oluşturma
- Kaynak kodunun derlenmesi
- GPU'lar arasındaki degradeleri toplayan tümünü azalt
- Tek bir sunucunun ötesinde, genellikle hangi teknolojiler binlerce GPU düğümünü tek bir kümeye bağlar?
- InfiniBand ve Ethernet üzerinden RDMA
- USB kabloları ve Wi-Fi
- Bluetooth ve HDMI
- Çevirmeli modemler
- NVIDIA'nın NVL72'si gibi raf ölçekli bir sistem neyi başarıyor?
- Küçük bir kutuda tek bir GPU'dur
- Düzinelerce GPU'yu tek bir birleşik NVLink alanına bağlar
- Tüm yazılımı donanımla değiştirir
- Bir çeşit soğutma sıvısıdır
- Why can a fast GPU fabric improve distributed data-parallel training?
- It removes the need to compute gradients
- It converts training into a database lookup
- It can reduce the time spent exchanging gradients in collectives such as all-reduce
- It prevents GPUs from synchronizing
- How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
- NVLink is only a file format
- InfiniBand runs inside a GPU’s tensor core
- Ethernet is used only for local memory access
- NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes