Chestionar privind interconexiunile NVLink și GPU

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. De ce sunt necesare interconexiuni de mare viteză precum NVLink pentru modelele mari de IA?
   • Pentru că cele mai mari modele sunt împărțite pe mai multe GPU-uri care trebuie să facă schimb de date în mod constant
   • Pentru că un singur GPU este întotdeauna suficient, dar este singur
   • Deoarece GPU-urile trebuie să se conecteze la imprimante
   • Deoarece modelele sunt stocate pe interconexiune în sine
2. Ce avantaj oferă NVLink față de magistrala standard PCIe pentru comunicarea GPU-la-GPU?
   • Este mai lent, dar mai ieftin
   • Lățime de bandă mult mai mare și latență mai mică
   • Funcționează doar între un GPU și un procesor
   • Îndepărtează nevoia de orice memorie
3. Care este rolul unui NVSwitch într-un server multi-GPU?
   • Răcește GPU-urile cu ventilatoare
   • Stochează sistemul de operare
   • Acționează ca o bară transversală de mare viteză, astfel încât fiecare GPU să poată ajunge pe fiecare la celălalt la lățime de bandă completă
   • Convertește puterea de la priza de perete
4. Ce operațiune colectivă, comună în instruirea distribuită, beneficiază puternic de interconexiunile rapide?
   • Defragmentarea unui hard disk
   • Redarea unui singur pixel
   • Compilarea codului sursă
   • All-reduce, care însumează gradienții pe GPU-uri
5. Dincolo de un singur server, ce tehnologii conectează de obicei mii de noduri GPU într-un singur cluster?
   • InfiniBand și RDMA-over-Ethernet
   • Cabluri USB și Wi-Fi
   • Bluetooth și HDMI
   • Modemuri dial-up
6. Ce realizează un sistem la scară de rack precum NVL72 de la NVIDIA?
   • Este un singur GPU într-o cutie mică
   • Conectează zeci de GPU-uri într-un singur domeniu NVLink unificat
   • Înlocuiește tot software-ul cu hardware
   • Este un tip de fluid de răcire
7. Why can a fast GPU fabric improve distributed data-parallel training?
   • It removes the need to compute gradients
   • It converts training into a database lookup
   • It can reduce the time spent exchanging gradients in collectives such as all-reduce
   • It prevents GPUs from synchronizing
8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
   • NVLink is only a file format
   • InfiniBand runs inside a GPU’s tensor core
   • Ethernet is used only for local memory access
   • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes