लुप्त और विस्फोटित स्नातक प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. बैकप्रॉपैगेशन में कौन सा गणितीय ऑपरेशन गायब होने और विस्फोट करने वाले ग्रेडिएंट का मूल कारण है?
   • श्रृंखला नियम के माध्यम से प्रति-परत कारकों को बार-बार गुणा करना
   • एक ही परत में ग्रेडिएंट जोड़ना
   • हानि को बैच आकार से विभाजित करना
   • बाटों का वर्गमूल निकालना
2. Why can sigmoid or tanh units contribute to vanishing gradients when they are saturated?
   • Their derivatives are always larger than one
   • Their derivatives become small in saturated regions, so repeated chain-rule products can shrink
   • They remove the chain rule from backpropagation
   • They force every weight to zero
3. कौन सा आर्किटेक्चर लंबे अनुक्रमों में ग्रेडिएंट समस्याओं से सबसे अधिक प्रभावित होता है?
   • एक दो-परत परसेप्ट्रॉन
   • एक एकल रेखीय प्रतिगमन
   • एक आवर्ती तंत्रिका नेटवर्क कई टाइमस्टेप्स पर अनियंत्रित होता है
   • एक लुकअप टेबल
4. प्रशिक्षण हानि को अचानक NaN में बदलना संभवतः किस समस्या का संकेत देता है?
   • लुप्त होती प्रवणताएँ
   • उत्तम अभिसरण
   • सीखने की दर बहुत कम है
   • विस्फोटित ढालें
5. अवशिष्ट (छोड़ें) कनेक्शन लुप्त ग्रेडिएंट्स में कैसे मदद करते हैं?
   • वे सिकुड़ते गुणन को दरकिनार करते हुए ग्रेडिएंट को पीछे की ओर एक सीधा शॉर्टकट रास्ता देते हैं
   • वे सभी गैर-रैखिकताओं को हटा देते हैं
   • वे सीखने की दर को स्वचालित रूप से बढ़ाते हैं
   • वे प्रारंभिक परतें हटा देते हैं
6. In a simplified analysis of a recurrent linear transformation repeated over many steps, what matrix quantity is a rough signal of growth versus decay?
   • The matrix trace relative to the batch size
   • The spectral radius relative to one
   • The number of hidden units alone
   • The determinant relative to the learning rate
7. A backpropagated gradient is multiplied by a factor below one at each of many layers. What trend should you expect?
   • It must become exactly one
   • It grows exponentially regardless of the factor
   • The signal can shrink exponentially with depth
   • It stops depending on earlier layers after one step
8. Why can a recurrent network be especially vulnerable over a long sequence?
   • The network has no hidden state
   • The output layer is used only once
   • The sequence is processed without a chain rule
   • The recurrent transformation is applied repeatedly across timesteps, compounding its gradient effect