वजन क्षय और एल2 नियमितीकरण प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. L2 नियमितीकरण हानि फ़ंक्शन में क्या जोड़ता है?
   • नेटवर्क में परतों की संख्या
   • सीखने की दर पर जुर्माना
   • प्रशिक्षण उदाहरणों की गिनती
   • वर्ग भार के योग के अनुपात में जुर्माना
2. वह मुख्य समस्या क्या है जिसे वज़न घटने से रोकने में मदद मिलती है?
   • धीमी गति से डेटा लोड हो रहा है
   • ओवरफिटिंग, जहां मॉडल प्रशिक्षण डेटा में शोर को याद रखता है
   • हार्डवेयर विफलताएँ
   • ग़लत लेबल
3. वजन में कमी मॉडल के वजन को किस दिशा में धकेलती है?
   • अनंत की ओर
   • सबसे बड़े वजन की ओर
   • शून्य की ओर
   • यादृच्छिक मूल्यों की ओर
4. एडमडब्ल्यू को क्यों पेश किया गया?
   • वजन क्षय को अनुकूली ग्रेडिएंट अपडेट से अलग करने के लिए ताकि क्षय सही ढंग से व्यवहार करे
   • ग्रेडिएंट को पूरी तरह से हटाने के लिए
   • जानबूझकर प्रशिक्षण को धीमा करना
   • सीखने की दर की आवश्यकता को समाप्त करना
5. सादे स्टोकेस्टिक ग्रेडिएंट डिसेंट के लिए, L2 नियमितीकरण और वजन क्षय कैसे संबंधित हैं?
   • वे सदैव विपरीत होते हैं
   • वे गणितीय रूप से समतुल्य हैं
   • वज़न घटने से ढाल अक्षम हो जाती है
   • L2 केवल गति के साथ SGD के लिए काम करता है
6. L2 नियमितीकरण में लैम्ब्डा गुणांक क्या नियंत्रित करता है?
   • बैच का आकार
   • युगों की संख्या
   • सक्रियण फ़ंक्शन
   • बड़े वजन पर जुर्माने की ताकत
7. Why can adding an L2 term to Adam’s loss differ from applying decoupled weight decay?
   • Adaptive per-parameter gradient scaling can distort the coupled penalty
   • Adam cannot train with any regularization
   • The two methods use different training labels
   • Decoupled decay removes the data loss
8. In a simple decoupled update, what changes the fractional shrinkage of a weight?
   • Only the number of classes
   • Only the model’s input dimension
   • The learning rate and decay coefficient together
   • Only the validation-set size