গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
শেখার হার নির্ধারণ কুইজ
ওয়ার্মআপ, কোসাইন এবং ধাপের সময়সূচী, পুনঃসূচনা আচরণ, প্রাথমিক অস্থিরতা এবং সাধারণ ওয়ার্মআপ-পরে-ক্ষয় প্রশিক্ষণের রেসিপি পরীক্ষা করে।
প্রশ্ন 1 এর 8
শেখার হারের সময়সূচীতে 'ওয়ার্মআপ' পর্বের উদ্দেশ্য কী?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- শেখার হারের সময়সূচীতে 'ওয়ার্মআপ' পর্বের উদ্দেশ্য কী?
- একটি ছোট হার দিয়ে শুরু করতে এবং র্যাম্প আপ করতে, প্রারম্ভিক শোরগোল গ্রেডিয়েন্ট থেকে অস্থিরতা এড়াতে
- চূড়ান্ত নির্ভুলতা কম করতে
- ডেটার প্রথম কয়েকটি ব্যাচ এড়িয়ে যেতে
- শুরুতে সমস্ত ওজন হিমায়িত করতে
- কোন সময়সূচী মসৃণভাবে একটি ন্যূনতম হারের দিকে অর্ধ-কোসাইন বক্ররেখা অনুসরণ করে?
- ধ্রুবক সময়সূচী
- কোসাইন অ্যানিলিং
- এলোমেলো সময়সূচী
- রৈখিক বৃদ্ধি
- শেখার হার অনেক বেশি সেট করা হলে কি হবে?
- প্রশিক্ষণ নিখুঁত নির্ভুলতার সাথে অবিলম্বে একত্রিত হয়
- মডেলটি ধীর গতিতে চলে কিন্তু সর্বদা সফল হয়
- ক্ষয়ক্ষতি কমার পরিবর্তে বিচ্ছিন্ন বা দোদুল্যমান হতে পারে
- কিছুই পরিবর্তন হয় না; হারের কোন প্রভাব নেই
- ধাপের ক্ষয় শেখার হারে কী করে?
- প্রতিটি ব্যাচে রৈখিকভাবে এটি বৃদ্ধি করে
- এটি পুরোপুরি ধ্রুবক রাখে
- প্রতিটি ধাপে এলোমেলোভাবে সেট করে
- পূর্বনির্ধারিত যুগে এটি একটি নির্দিষ্ট ফ্যাক্টর দ্বারা ড্রপ করে
- What does a warm restart do to a learning-rate schedule?
- It raises the learning rate again to begin another schedule cycle
- It resets the model parameters to random values
- It permanently fixes the learning rate at zero
- It deletes the optimizer’s moment estimates
- In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
- It removed the need for a validation set
- It eased early optimization difficulties after the learning-rate scale increased with batch size
- It changed the model architecture after each epoch
- It converted the learning-rate curve into a cosine wave
- In the cosine formula, what does T denote?
- The number of model layers
- ব্যাচের আকার
- The schedule horizon or total number of steps used for the decay
- The optimizer’s momentum coefficient
- If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
- Exactly zero regardless of lr_min
- The original warmup starting rate
- An unbounded value
- The specified minimum learning rate