गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर

कुशाग्रता-जागरूक न्यूनतमकरण प्रश्नोत्तरी

एसएएम के दो-पास अपडेट, इसके पड़ोस त्रिज्या, परेशान-वजन ग्रेडिएंट और समतलता और गणना के बीच व्यापार-बंद की जांच करता है।

संबंधित मार्गदर्शक पथकुशाग्रता जागरूक न्यूनतमकरण
प्रश्न 1 का 8

एसएएम किस प्रकार का न्यूनतम खोजने का प्रयास करता है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. एसएएम किस प्रकार का न्यूनतम खोजने का प्रयास करता है?
    • एक सपाट न्यूनतम जहां वजन के पड़ोस में हानि कम रहती है
    • सबसे तेज़ संभव न्यूनतम
    • अधिकतम मापदंडों के साथ न्यूनतम
    • कोई भी न्यूनतम एक चरण में पहुंच योग्य
  2. एक मानक एसएएम चरण के लिए कितने फॉरवर्ड-बैकवर्ड पास की आवश्यकता होती है?
    • आधा पास
    • मोटे तौर पर दो
    • बिल्कुल एक
    • दस या अधिक
  3. एसएएम में रेडियस हाइपरपैरामीटर rho क्या नियंत्रित करता है?
    • सीखने की दर में गिरावट की गति
    • प्रशिक्षण युगों की संख्या
    • वज़न के आस-पास के पड़ोस का आकार जो हानि स्पाइक्स से सुरक्षित है
    • ड्रॉपआउट संभावना
  4. प्रत्येक पुनरावृत्ति में एसएएम के दो चरणों में से पहला चरण क्या है?
    • मॉडल को सिकोड़ें
    • पिछले सभी चरणों के भार का औसत निकालें
    • अनुकूलक स्थिति रीसेट करें
    • सबसे खराब स्थिति वाले नजदीकी बिंदु की ओर आकार rho का एक चढ़ाई वाला कदम उठाएं
  5. शोर को लेबल करने के लिए एसएएम अक्सर मजबूती में सुधार क्यों करता है?
    • क्योंकि फ्लैट मिनिमा में दूषित लेबल को याद रखने की संभावना कम होती है
    • क्योंकि यह शोर वाले लेबल को स्वचालित रूप से हटा देता है
    • क्योंकि यह बड़ी शब्दावली का उपयोग करता है
    • क्योंकि यह बैच के आकार को तीन गुना कर देता है
  6. इनमें से कौन सा वैरिएंट एसएएम की गणना लागत को कम करने के लिए डिज़ाइन किया गया है?
    • रेलू
    • ईएसएएम (कुशल एसएएम)
    • बैचनॉर्म
    • एडाग्रैड
  7. In SAM’s second pass, which gradient is used to update the original model weights?
    • The gradient of a random label
    • The first pass gradient without evaluating the perturbed point
    • The gradient evaluated at the perturbed nearby weights
    • A gradient from a different model checkpoint
  8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
    • The model parameters are all set to zero
    • The loss becomes independent of the weights
    • The optimizer takes an infinite step
    • There is no weight perturbation, so the neighborhood reduces to the current point