Quiz dotyczący połączeń NVLink i GPU

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Dlaczego w przypadku dużych modeli sztucznej inteligencji potrzebne są szybkie łącza, takie jak NVLink?
   • Ponieważ największe modele są podzielone na wiele procesorów graficznych, które muszą stale wymieniać dane
   • Bo jedno GPU zawsze wystarczy, ale jest samotne
   • Ponieważ procesory graficzne muszą łączyć się z drukarkami
   • Ponieważ modele są przechowywane na samym interkonekcie
2. Jaką przewagę oferuje NVLink w porównaniu ze standardową magistralą PCIe do komunikacji GPU-GPU?
   • Jest wolniej, ale taniej
   • Znacznie większa przepustowość i mniejsze opóźnienia
   • Działa tylko pomiędzy GPU i CPU
   • Eliminuje potrzebę jakiejkolwiek pamięci
3. Jaka jest rola przełącznika NVSwitch w serwerze z wieloma procesorami graficznymi?
   • Chłodzi procesory graficzne za pomocą wentylatorów
   • Przechowuje system operacyjny
   • Działa jak szybka poprzeczka, dzięki czemu każdy procesor graficzny może łączyć się ze sobą przy pełnej przepustowości
   • Przetwarza energię z gniazdka ściennego
4. Która zbiorowa operacja, powszechna w szkoleniu rozproszonym, czerpie duże korzyści z szybkich połączeń wzajemnych?
   • Defragmentacja dysku twardego
   • Renderowanie pojedynczego piksela
   • Kompilacja kodu źródłowego
   • All-Reduce, który sumuje gradienty pomiędzy procesorami graficznymi
5. Jakie technologie zazwyczaj łączą tysiące węzłów GPU w jeden klaster, poza pojedynczym serwerem?
   • InfiniBand i RDMA-over-Ethernet
   • Kable USB i Wi-Fi
   • Bluetooth i HDMI
   • Modemy telefoniczne
6. Co osiąga system przeznaczony do montażu w szafie serwerowej, taki jak NVL72 firmy NVIDIA?
   • To pojedynczy procesor graficzny w małej obudowie
   • Łączy dziesiątki procesorów graficznych w jedną zunifikowaną domenę NVLink
   • Zastępuje całe oprogramowanie sprzętem
   • Jest to rodzaj płynu chłodzącego
7. Dlaczego szybka struktura procesora graficznego może usprawnić szkolenie rozproszonych danych równoległych?
   • Eliminuje to potrzebę obliczania gradientów
   • Konwertuje szkolenie na przeszukiwanie bazy danych
   • Może skrócić czas spędzony na wymianie gradientów w kolektywach, takich jak all-reduce
   • Uniemożliwia synchronizację procesorów graficznych
8. Czym różni się skalowalna sieć szkieletowa NVLink od InfiniBand lub Ethernet używanych w klastrze?
   • NVLink to tylko format pliku
   • InfiniBand działa wewnątrz rdzenia tensorowego procesora graficznego
   • Ethernet jest używany tylko do dostępu do pamięci lokalnej
   • NVLink łączy procesory graficzne w obsługiwanych systemach lub domenach szafowych; InfiniBand i Ethernet często łączą węzły klastra