গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

ওয়ার্মআপ এবং কোসাইন অ্যানিলিং শিডিউল কুইজ

ওয়ার্মআপের প্রারম্ভিক-প্রশিক্ষণের ভূমিকা, কোসাইন ক্ষয়ে রূপান্তর এবং সময়সূচীর রৈখিক র‌্যাম্প এবং শেষ পয়েন্ট কীভাবে পড়তে হয় তা পরীক্ষা করে।

প্রশ্ন 1 এর 8

প্রশিক্ষণের শুরুতে ওয়ার্মআপ পর্বের মূল উদ্দেশ্য কী?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. প্রশিক্ষণের শুরুতে ওয়ার্মআপ পর্বের মূল উদ্দেশ্য কী?
    • প্রাথমিক প্রশিক্ষণ স্থিতিশীল করতে যখন ওজন এলোমেলো হয় এবং গ্রেডিয়েন্টগুলি গোলমাল হয়
    • ধীরে ধীরে ব্যাচের আকার বাড়াতে
    • মডেলের নীচের স্তরগুলি হিমায়িত করতে
    • দ্রুত অনুমানের জন্য মডেলটি সংকুচিত করতে
  2. কোসাইন অ্যানিলিং কোন আকৃতি অনুসরণ করে শেখার হার ক্ষয় করে?
    • একটি সরল তির্যক রেখা
    • একটি কোসাইন বক্ররেখা যা উঁচুতে শুরু হয়, সহজ হয় এবং শূন্যের কাছাকাছি সমতল হয়
    • একটি ধাপ ফাংশন যা নির্দিষ্ট যুগে নেমে যায়
    • ঊর্ধ্বমুখী একটি সূচকীয় স্পাইক
  3. কোন অপ্টিমাইজার ওয়ার্মআপ থেকে বিশেষভাবে উপকৃত হয় কারণ এর বৈচিত্র অনুমান প্রথম দিকে অবিশ্বস্ত হয়?
    • কোন গতি ছাড়াই প্লেইন SGD
    • গ্রিড অনুসন্ধান
    • আদম এবং তার রূপ
    • K- মানে
  4. কোসাইন সূত্রে, T কী উপস্থাপন করে?
    • নমুনা নেওয়ার জন্য মডেলের তাপমাত্রা
    • ব্যবহৃত GPU এর সংখ্যা
    • টোকেনাইজার শব্দভান্ডারের আকার
    • সময়সূচীতে প্রশিক্ষণের মোট ধাপের সংখ্যা
  5. In the guide’s warmup-plus-cosine schedule, what begins after warmup reaches its target rate?
    • Cosine decay begins from the peak learning rate
    • All model weights are reset
    • The schedule switches to a constant zero rate
    • Momentum is removed from every optimizer
  6. A linear warmup rises from zero to its target rate over 200 steps. About what rate is used halfway through?
    • The full target rate
    • About half of the target rate
    • The learning rate is exactly zero
    • Twice the target rate
  7. At the cosine horizon t = T, what multiplier does the guide’s cosine formula produce?
    • এক
    • One-half
    • শূন্য
    • It becomes negative one
  8. Why use a gradual cosine decay after warmup rather than abruptly setting the rate to zero?
    • It guarantees a global minimum
    • It increases the model’s parameter count
    • It removes the need to check training loss
    • It lets the rate ease down so optimization can settle gradually