गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर

एनवीलिंक और जीपीयू इंटरकनेक्ट्स क्विज़

GPU स्केल-अप लिंक, NVSwitch फ़ैब्रिक, सामूहिक संचार और रैक लिंक और क्लस्टर नेटवर्किंग के बीच अंतर की समीक्षा करता है।

संबंधित मार्गदर्शक पथNvlink और GPU इंटरकनेक्ट
प्रश्न 1 का 8

बड़े AI मॉडल के लिए NVLink जैसे हाई-स्पीड इंटरकनेक्ट की आवश्यकता क्यों है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. बड़े AI मॉडल के लिए NVLink जैसे हाई-स्पीड इंटरकनेक्ट की आवश्यकता क्यों है?
    • क्योंकि सबसे बड़े मॉडल कई जीपीयू में विभाजित होते हैं जिन्हें लगातार डेटा का आदान-प्रदान करना पड़ता है
    • क्योंकि एक GPU हमेशा पर्याप्त होता है लेकिन यह अकेला होता है
    • क्योंकि GPU को प्रिंटर से कनेक्ट करने की आवश्यकता होती है
    • क्योंकि मॉडल इंटरकनेक्ट पर ही स्टोर होते हैं
  2. GPU-से-GPU संचार के लिए मानक PCIe बस की तुलना में NVLink क्या लाभ प्रदान करता है?
    • यह धीमा है लेकिन सस्ता है
    • बहुत अधिक बैंडविड्थ और कम विलंबता
    • यह केवल GPU और CPU के बीच काम करता है
    • यह किसी भी मेमोरी की आवश्यकता को हटा देता है
  3. मल्टी-जीपीयू सर्वर में एनवीस्विच की क्या भूमिका है?
    • यह प्रशंसकों के साथ GPU को ठंडा करता है
    • यह ऑपरेटिंग सिस्टम को स्टोर करता है
    • यह एक हाई-स्पीड क्रॉसबार के रूप में कार्य करता है ताकि प्रत्येक जीपीयू पूर्ण बैंडविड्थ पर एक दूसरे तक पहुंच सके
    • यह दीवार के आउटलेट से बिजली परिवर्तित करता है
  4. कौन सा सामूहिक संचालन, जो वितरित प्रशिक्षण में आम है, तेज़ इंटरकनेक्ट से दृढ़ता से लाभान्वित होता है?
    • हार्ड ड्राइव को डीफ़्रैग्मेन्ट करना
    • एकल पिक्सेल का प्रतिपादन
    • स्रोत कोड संकलित करना
    • ऑल-रिड्यूस, जो सभी जीपीयू में ग्रेडिएंट्स का योग करता है
  5. एक सर्वर से परे, कौन सी प्रौद्योगिकियां आम तौर पर हजारों जीपीयू नोड्स को एक क्लस्टर में जोड़ती हैं?
    • इन्फ़िनीबैंड और आरडीएमए-ओवर-ईथरनेट
    • यूएसबी केबल और वाई-फाई
    • ब्लूटूथ और एचडीएमआई
    • डायल-अप मोडेम
  6. NVIDIA के NVL72 जैसा रैक-स्केल सिस्टम क्या हासिल करता है?
    • यह एक छोटे बॉक्स में एकल GPU है
    • यह दर्जनों GPU को एक एकीकृत NVLink डोमेन से जोड़ता है
    • यह सभी सॉफ्टवेयर को हार्डवेयर से बदल देता है
    • यह एक प्रकार का ठंडा करने वाला तरल पदार्थ है
  7. तेज़ GPU फैब्रिक वितरित डेटा-समानांतर प्रशिक्षण में सुधार क्यों कर सकता है?
    • यह ग्रेडिएंट्स की गणना करने की आवश्यकता को हटा देता है
    • यह प्रशिक्षण को डेटाबेस लुकअप में परिवर्तित करता है
    • यह ऑल-रिड्यूस जैसे सामूहिकताओं में ग्रेडिएंट्स का आदान-प्रदान करने में लगने वाले समय को कम कर सकता है
    • यह GPU को सिंक्रोनाइज़ होने से रोकता है
  8. एनवीलिंक स्केल-अप फैब्रिक क्लस्टर में उपयोग किए जाने वाले इनफिनीबैंड या ईथरनेट से कैसे भिन्न होता है?
    • एनवीलिंक केवल एक फ़ाइल स्वरूप है
    • InfiniBand एक GPU के टेंसर कोर के अंदर चलता है
    • ईथरनेट का उपयोग केवल स्थानीय मेमोरी एक्सेस के लिए किया जाता है
    • एनवीलिंक समर्थित सिस्टम या रैक डोमेन के भीतर जीपीयू को जोड़ता है; InfiniBand और ईथरनेट आमतौर पर क्लस्टर नोड्स को जोड़ते हैं