एडम और अनुकूली अनुकूलक प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. एडम प्रत्येक पैरामीटर के लिए किन दो मात्राओं को ट्रैक करता है?
   • ग्रेडिएंट्स और वर्ग ग्रेडिएंट्स का रनिंग औसत
   • अब तक देखी गई अधिकतम और न्यूनतम प्रवणता
   • सीखने की दर और बैच का आकार
   • वज़न का मान और उसका चिन्ह
2. एडम अपने क्षणिक अनुमानों में पूर्वाग्रह सुधार क्यों लागू करता है?
   • क्योंकि प्रशिक्षण के आरंभ में ग्रेडिएंट हमेशा नकारात्मक होते हैं
   • क्योंकि चलती औसत शून्य से शुरू होती है और शुरू में शून्य की ओर पक्षपाती होती है
   • समय के साथ सीखने की दर को बड़ा बनाना
   • बैच से बाहरी डेटा बिंदुओं को हटाने के लिए
3. एडम और एडमडब्ल्यू के बीच मुख्य अंतर क्या है?
   • एडमडब्लू बिल्कुल भी गति का उपयोग नहीं करता है
   • एडमडब्ल्यू दूसरे क्षण का अनुमान हटा देता है
   • एडमडब्ल्यू ग्रेडिएंट-आधारित अपडेट से वजन घटाने को अलग करता है
   • एडमडब्ल्यू केवल कन्वेन्शनल नेटवर्क पर काम करता है
4. एडम के अद्यतन नियम में छोटा एप्सिलॉन शब्द क्या भूमिका निभाता है?
   • यह संवेग शक्ति निर्धारित करता है
   • यह प्रशिक्षण युगों की संख्या को नियंत्रित करता है
   • यह ढाल परिमाण को बढ़ाता है
   • यह शून्य से विभाजन को रोकता है और अद्यतन को स्थिर करता है
5. एडम को अक्सर 'अनुकूली' के रूप में क्यों वर्णित किया जाता है?
   • यह प्रभावी रूप से प्रत्येक पैरामीटर को अपना स्वयं का स्केल किया हुआ चरण आकार देता है
   • यह प्रशिक्षण के दौरान नेटवर्क आर्किटेक्चर को बदल देता है
   • यह डेटासेट को मॉडल के अनुसार अनुकूलित करता है
   • यह वर्गीकरण और प्रतिगमन के बीच स्वचालित रूप से स्विच करता है
6. Which Adam parameter controls the exponential decay rate of its squared-gradient estimate?
   • Beta1
   • Beta2
   • Epsilon
   • The weight-decay coefficient
7. A parameter repeatedly receives large gradients. Which Adam quantity helps scale down its effective step?
   • The number of model layers
   • The batch-normalization mean
   • The second-moment estimate of squared gradients
   • The AdamW weight-decay term alone
8. What happens when beta2 is set closer to one, all else equal?
   • The optimizer stops using gradients
   • The first-moment estimate is deleted
   • Weight decay becomes decoupled automatically
   • The squared-gradient estimate decays more slowly and retains a longer history