गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर
कुशाग्रता-जागरूक न्यूनतमकरण प्रश्नोत्तरी
एसएएम के दो-पास अपडेट, इसके पड़ोस त्रिज्या, परेशान-वजन ग्रेडिएंट और समतलता और गणना के बीच व्यापार-बंद की जांच करता है।
प्रश्न 1 का 8
एसएएम किस प्रकार का न्यूनतम खोजने का प्रयास करता है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- एसएएम किस प्रकार का न्यूनतम खोजने का प्रयास करता है?
- एक सपाट न्यूनतम जहां वजन के पड़ोस में हानि कम रहती है
- सबसे तेज़ संभव न्यूनतम
- अधिकतम मापदंडों के साथ न्यूनतम
- कोई भी न्यूनतम एक चरण में पहुंच योग्य
- एक मानक एसएएम चरण के लिए कितने फॉरवर्ड-बैकवर्ड पास की आवश्यकता होती है?
- आधा पास
- मोटे तौर पर दो
- बिल्कुल एक
- दस या अधिक
- एसएएम में रेडियस हाइपरपैरामीटर rho क्या नियंत्रित करता है?
- सीखने की दर में गिरावट की गति
- प्रशिक्षण युगों की संख्या
- वज़न के आस-पास के पड़ोस का आकार जो हानि स्पाइक्स से सुरक्षित है
- ड्रॉपआउट संभावना
- प्रत्येक पुनरावृत्ति में एसएएम के दो चरणों में से पहला चरण क्या है?
- मॉडल को सिकोड़ें
- पिछले सभी चरणों के भार का औसत निकालें
- अनुकूलक स्थिति रीसेट करें
- सबसे खराब स्थिति वाले नजदीकी बिंदु की ओर आकार rho का एक चढ़ाई वाला कदम उठाएं
- शोर को लेबल करने के लिए एसएएम अक्सर मजबूती में सुधार क्यों करता है?
- क्योंकि फ्लैट मिनिमा में दूषित लेबल को याद रखने की संभावना कम होती है
- क्योंकि यह शोर वाले लेबल को स्वचालित रूप से हटा देता है
- क्योंकि यह बड़ी शब्दावली का उपयोग करता है
- क्योंकि यह बैच के आकार को तीन गुना कर देता है
- इनमें से कौन सा वैरिएंट एसएएम की गणना लागत को कम करने के लिए डिज़ाइन किया गया है?
- रेलू
- ईएसएएम (कुशल एसएएम)
- बैचनॉर्म
- एडाग्रैड
- In SAM’s second pass, which gradient is used to update the original model weights?
- The gradient of a random label
- The first pass gradient without evaluating the perturbed point
- The gradient evaluated at the perturbed nearby weights
- A gradient from a different model checkpoint
- If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
- The model parameters are all set to zero
- The loss becomes independent of the weights
- The optimizer takes an infinite step
- There is no weight perturbation, so the neighborhood reduces to the current point