वार्मअप और कोसाइन एनीलिंग शेड्यूल क्विज़

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. प्रशिक्षण की शुरुआत में वार्मअप चरण का मुख्य उद्देश्य क्या है?
   • जब वज़न यादृच्छिक हो और ग्रेडिएंट शोर हो तो प्रारंभिक प्रशिक्षण को स्थिर करने के लिए
   • बैच का आकार धीरे-धीरे बढ़ाना
   • मॉडल की निचली परतों को स्थिर करने के लिए
   • तेजी से अनुमान लगाने के लिए मॉडल को संपीड़ित करना
2. कोसाइन एनीलिंग किस आकार का अनुसरण करते हुए सीखने की दर को कम करती है?
   • एक सीधी विकर्ण रेखा
   • एक कोसाइन वक्र जो ऊंचाई से शुरू होता है, आसान होता है और शून्य के करीब चपटा होता है
   • एक चरणीय फ़ंक्शन जो निश्चित युगों पर गिरता है
   • ऊपर की ओर एक घातीय स्पाइक
3. कौन सा अनुकूलक विशेष रूप से वार्मअप से लाभान्वित होता है क्योंकि इसके विचरण अनुमान शुरू में अविश्वसनीय होते हैं?
   • बिना किसी गति के सादा SGD
   • ग्रिड खोज
   • एडम और उसके प्रकार
   • K-मतलब
4. कोसाइन सूत्र में, T क्या दर्शाता है?
   • नमूने के लिए मॉडल का तापमान
   • प्रयुक्त GPU की संख्या
   • टोकनाइज़र शब्दावली का आकार
   • अनुसूची में प्रशिक्षण चरणों की कुल संख्या
5. In the guide’s warmup-plus-cosine schedule, what begins after warmup reaches its target rate?
   • Cosine decay begins from the peak learning rate
   • All model weights are reset
   • The schedule switches to a constant zero rate
   • Momentum is removed from every optimizer
6. A linear warmup rises from zero to its target rate over 200 steps. About what rate is used halfway through?
   • The full target rate
   • About half of the target rate
   • The learning rate is exactly zero
   • Twice the target rate
7. At the cosine horizon t = T, what multiplier does the guide’s cosine formula produce?
   • एक
   • One-half
   • शून्य
   • It becomes negative one
8. Why use a gradual cosine decay after warmup rather than abruptly setting the rate to zero?
   • It guarantees a global minimum
   • It increases the model’s parameter count
   • It removes the need to check training loss
   • It lets the rate ease down so optimization can settle gradually