ग्रैडिएंट क्लिपिंग क्विज़

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. अपडेट को सीमित करते समय क्लिप-बाय-नॉर्म ग्रेडिएंट क्लिपिंग मुख्य रूप से क्या संरक्षित करती है?
   • समग्र ग्रेडिएंट अद्यतन की दिशा
   • प्रत्येक ग्रेडिएंट का सटीक परिमाण
   • मॉडल पैरामीटरों की संख्या
   • सीखने की दर अनुसूची
2. थ्रेशोल्ड c के साथ क्लिप-बाय-नॉर्म में, क्या होता है जब ग्रेडिएंट मानदंड g_norm c से अधिक हो जाता है?
   • ग्रेडियेंट शून्य पर सेट हैं
   • प्रत्येक ग्रेडिएंट को c/g_norm से गुणा किया जाता है
   • प्रशिक्षण रुक जाता है
   • सीखने की दर दोगुनी हो गई है
3. ग्रेडिएंट क्लिपिंग किस समस्या से निपटने के लिए विशेष रूप से डिज़ाइन की गई है?
   • लुप्त होती प्रवणताएँ
   • धीमी गति से डेटा लोड हो रहा है
   • विस्फोटित ढालें
   • सत्यापन सेट पर ओवरफ़िटिंग
4. क्लिप-दर-मान, क्लिप-दर-मानदंड से किस प्रकार भिन्न है?
   • यह हमेशा अद्यतन दिशा को सुरक्षित रखता है
   • यह केवल संकेंद्रित परतों पर काम करता है
   • यह ग्रेडिएंट्स को पूरी तरह से हटा देता है
   • यह प्रत्येक ग्रेडिएंट घटक को स्वतंत्र रूप से एक सीमा में जकड़ देता है, जो दिशा बदल सकता है
5. A minibatch produces an unusually large global gradient norm. What does clip-by-norm do before the optimizer update?
   • Scales the full gradient vector down to the configured threshold when the norm exceeds it
   • Changes the model’s labels
   • Drops every gradient component independently
   • Increases the learning rate until the loss recovers
6. डिफरेंशियली प्राइवेट ट्रेनिंग (DP-SGD) में, प्रति-उदाहरण ग्रेडिएंट क्लिपिंग क्या भूमिका निभाती है?
   • यह डेटा को एन्क्रिप्ट करता है
   • यह प्रत्येक उदाहरण के प्रभाव को सीमित करता है इसलिए कैलिब्रेटेड शोर गोपनीयता की गारंटी दे सकता है
   • यह बैच का आकार बढ़ाता है
   • यह हानि फ़ंक्शन की आवश्यकता को हटा देता है
7. The global gradient norm is twice a clipping threshold c. By what factor is the gradient scaled?
   • दो
   • One quarter
   • One half (c divided by 2c)
   • It is left unchanged
8. Why does DP-SGD clip each example’s gradient before adding calibrated noise?
   • To make all examples have the same label
   • To remove the need for a privacy budget
   • To increase the norm of rare-class gradients
   • To bound an individual example’s influence on the released update