बैच सामान्यीकरण प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. बैच सामान्यीकरण क्या सामान्यीकृत करता है?
   • वर्तमान मिनी-बैच में उदाहरणों के पार, एक परत के इनपुट
   • नेटवर्क का अंतिम आउटपुट लेबल
   • समय के साथ सीखने की दर अनुसूची
   • प्रशिक्षण डेटासेट का आकार
2. बैच सामान्यीकरण में सीखने योग्य पैरामीटर गामा और बीटा क्यों शामिल हैं?
   • डेटासेट का आकार बढ़ाने के लिए
   • नेटवर्क को स्केल करने और सामान्यीकृत मूल्यों को स्थानांतरित करने, प्रतिनिधित्वात्मक शक्ति को संरक्षित करने के लिए
   • प्रशिक्षण के दौरान न्यूरॉन्स को बेतरतीब ढंग से गिराना
   • हानि फ़ंक्शन की गणना करने के लिए
3. बैच सामान्यीकरण का आमतौर पर उद्धृत व्यावहारिक लाभ क्या है?
   • यह किसी भी प्रशिक्षण डेटा की आवश्यकता को समाप्त कर देता है
   • यह गारंटी देता है कि मॉडल ओवरफिट नहीं हो सकता
   • यह उच्च सीखने की दर और तेज़, अधिक स्थिर अभिसरण की अनुमति देता है
   • यह सक्रियण फ़ंक्शन की आवश्यकता को हटा देता है
4. अनुमान के समय (नए डेटा पर भविष्यवाणी करते हुए), बैच सामान्यीकरण किन आँकड़ों का उपयोग करता है?
   • केवल वर्तमान एकल इनपुट का माध्य और विचरण
   • हर बार बेतरतीब ढंग से उत्पन्न आँकड़े
   • परीक्षण सेट के आँकड़ों की गणना पहले से की जाती है
   • प्रशिक्षण के दौरान संचित माध्य और विचरण का रनिंग औसत
5. बैच सामान्यीकरण बहुत छोटे बैच आकारों के साथ खराब व्यवहार क्यों कर सकता है?
   • बैच आँकड़े वास्तविक वितरण के शोर और अविश्वसनीय अनुमान बन जाते हैं
   • छोटे बैच मॉडल को मेमोरी में फिट होने के लिए बहुत बड़ा बना देते हैं
   • यह सक्रियण कार्यों को अक्षम कर देता है
   • छोटे बैच L1 नियमितीकरण के उपयोग को बाध्य करते हैं
6. बैच सामान्यीकरण के विकल्प के रूप में ट्रांसफार्मर आर्किटेक्चर में कौन सी सामान्यीकरण तकनीक का सबसे अधिक उपयोग किया जाता है?
   • ड्रॉपआउट सामान्यीकरण
   • परत सामान्यीकरण
   • L2 हानि का सामान्यीकरण
   • धीरे-धीरे कतरन
7. Why does BatchNorm use running averages during inference instead of the current test batch’s statistics?
   • To retrain the model on test data
   • To make all activations exactly zero
   • So a prediction does not depend on which other examples happen to share the batch
   • To eliminate learned gamma and beta
8. Where is BatchNorm commonly placed within a layer block according to the guide?
   • Only after the final prediction
   • Before the input data are loaded
   • Inside the optimizer update
   • Between the linear transformation and its activation function