গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
ওয়ার্মআপ এবং কোসাইন অ্যানিলিং শিডিউল কুইজ
ওয়ার্মআপের প্রারম্ভিক-প্রশিক্ষণের ভূমিকা, কোসাইন ক্ষয়ে রূপান্তর এবং সময়সূচীর রৈখিক র্যাম্প এবং শেষ পয়েন্ট কীভাবে পড়তে হয় তা পরীক্ষা করে।
প্রশ্ন 1 এর 8
প্রশিক্ষণের শুরুতে ওয়ার্মআপ পর্বের মূল উদ্দেশ্য কী?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- প্রশিক্ষণের শুরুতে ওয়ার্মআপ পর্বের মূল উদ্দেশ্য কী?
- প্রাথমিক প্রশিক্ষণ স্থিতিশীল করতে যখন ওজন এলোমেলো হয় এবং গ্রেডিয়েন্টগুলি গোলমাল হয়
- ধীরে ধীরে ব্যাচের আকার বাড়াতে
- মডেলের নীচের স্তরগুলি হিমায়িত করতে
- দ্রুত অনুমানের জন্য মডেলটি সংকুচিত করতে
- কোসাইন অ্যানিলিং কোন আকৃতি অনুসরণ করে শেখার হার ক্ষয় করে?
- একটি সরল তির্যক রেখা
- একটি কোসাইন বক্ররেখা যা উঁচুতে শুরু হয়, সহজ হয় এবং শূন্যের কাছাকাছি সমতল হয়
- একটি ধাপ ফাংশন যা নির্দিষ্ট যুগে নেমে যায়
- ঊর্ধ্বমুখী একটি সূচকীয় স্পাইক
- কোন অপ্টিমাইজার ওয়ার্মআপ থেকে বিশেষভাবে উপকৃত হয় কারণ এর বৈচিত্র অনুমান প্রথম দিকে অবিশ্বস্ত হয়?
- কোন গতি ছাড়াই প্লেইন SGD
- গ্রিড অনুসন্ধান
- আদম এবং তার রূপ
- K- মানে
- কোসাইন সূত্রে, T কী উপস্থাপন করে?
- নমুনা নেওয়ার জন্য মডেলের তাপমাত্রা
- ব্যবহৃত GPU এর সংখ্যা
- টোকেনাইজার শব্দভান্ডারের আকার
- সময়সূচীতে প্রশিক্ষণের মোট ধাপের সংখ্যা
- In the guide’s warmup-plus-cosine schedule, what begins after warmup reaches its target rate?
- Cosine decay begins from the peak learning rate
- All model weights are reset
- The schedule switches to a constant zero rate
- Momentum is removed from every optimizer
- A linear warmup rises from zero to its target rate over 200 steps. About what rate is used halfway through?
- The full target rate
- About half of the target rate
- The learning rate is exactly zero
- Twice the target rate
- At the cosine horizon t = T, what multiplier does the guide’s cosine formula produce?
- এক
- One-half
- শূন্য
- It becomes negative one
- Why use a gradual cosine decay after warmup rather than abruptly setting the rate to zero?
- It guarantees a global minimum
- It increases the model’s parameter count
- It removes the need to check training loss
- It lets the rate ease down so optimization can settle gradually