वज़न आरंभीकरण प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. सभी भारों को शून्य से आरंभ करना एक घातक गलती क्यों है?
   • सभी न्यूरॉन्स समान ग्रेडिएंट प्राप्त करते हैं और कभी भी अंतर नहीं करते हैं (समरूपता टूटी नहीं है)
   • इससे प्रशिक्षण बहुत तेज़ हो जाता है
   • इससे हानि नकारात्मक हो जाती है
   • यह बहुत अधिक मेमोरी का उपयोग करता है
2. वह (काइमिंग) आरंभीकरण विशेष रूप से किस सक्रियण फ़ंक्शन के लिए डिज़ाइन किया गया है?
   • सिग्मॉइड
   • रेलू
   • तनह
   • सॉफ्टमैक्स
3. सैद्धांतिक भार आरंभीकरण योजनाओं का मुख्य लक्ष्य क्या है?
   • सभी वजन बराबर करने के लिए
   • प्रत्येक वज़न को एक पर सेट करना
   • सभी परतों में सक्रियता और ग्रेडिएंट के अंतर को लगभग स्थिर रखने के लिए
   • डेटा की आवश्यकता को ख़त्म करना
4. जेवियर (ग्लोरोट) इनिशियलाइज़ेशन किस एक्टिवेशन का उपयोग करने वाले नेटवर्क के लिए सबसे उपयुक्त है?
   • ReLU और इसके वेरिएंट
   • केवल रैखिक सक्रियण
   • बिल्कुल कोई सक्रियता नहीं
   • तन्ह और सिग्मॉइड
5. वह आरंभीकरण में 1/फैन_इन के बजाय 2/फैन_इन के विचरण का उपयोग क्यों करता है?
   • ReLU की भरपाई के लिए इसके लगभग आधे इनपुट को शून्य पर सेट किया गया है
   • बिना किसी कारण के वजन बढ़ाना
   • मापदंडों की संख्या कम करने के लिए
   • बैच आकार से मेल खाने के लिए
6. जब वज़न को बेतरतीब ढंग से आरंभ किया जाता है तो पूर्वाग्रहों को आम तौर पर कैसे आरंभ किया जाता है?
   • बहुत बड़े सकारात्मक मूल्यों के लिए
   • शून्य तक, चूँकि समरूपता यादृच्छिक भार से पहले ही टूट चुकी है
   • सीखने की दर के समान मूल्य पर
   • वज़न से बड़े यादृच्छिक मानों के लिए
7. Under Xavier initialization, which quantities determine the weight variance in the guide’s formula?
   • The number of training epochs and batch size
   • The output class count alone
   • Fan-in and fan-out
   • The activation’s test accuracy
8. For a ReLU layer with fan-in 64, what variance does the He formula 2/fan_in specify?
   • 1/64
   • 1/16
   • 2/64 squared
   • 1/32