سیکھنے کی شرح کا شیڈولنگ کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. سیکھنے کی شرح کے شیڈول میں 'وارم اپ' مرحلے کا مقصد کیا ہے؟
   • ابتدائی شور والے میلان سے عدم استحکام سے گریز کرتے ہوئے، چھوٹی شرح کے ساتھ شروع کرنے اور ریمپ اپ کرنے کے لیے
   • حتمی درستگی کو کم کرنے کے لیے
   • ڈیٹا کے پہلے چند بیچز کو چھوڑنے کے لیے
   • شروع میں تمام وزنوں کو منجمد کرنے کے لیے
2. کون سا شیڈول آسانی سے کم از کم شرح کی طرف آدھے کوزائن وکر کی پیروی کرتا ہے؟
   • مستقل شیڈول
   • کوزائن اینیلنگ
   • بے ترتیب شیڈول
   • لکیری اضافہ
3. اگر سیکھنے کی شرح بہت زیادہ مقرر کی جائے تو کیا ہوگا؟
   • تربیت کامل درستگی کے ساتھ فوری طور پر بدل جاتی ہے۔
   • ماڈل سست ٹرین کرتا ہے لیکن ہمیشہ کامیاب ہوتا ہے۔
   • نقصان کم ہونے کے بجائے بدل سکتا ہے یا دوہر سکتا ہے۔
   • کچھ نہیں بدلتا؛ شرح کوئی اثر نہیں ہے
4. مرحلہ وار زوال سیکھنے کی شرح کو کیا کرتا ہے؟
   • اسے ہر بیچ میں لکیری طور پر بڑھاتا ہے۔
   • اسے بالکل مستقل رکھتا ہے۔
   • اسے تصادفی طور پر ہر قدم پر سیٹ کرتا ہے۔
   • پہلے سے طے شدہ عہدوں پر اسے ایک مقررہ عنصر کے ذریعے گرا دیتا ہے۔
5. What does a warm restart do to a learning-rate schedule?
   • It raises the learning rate again to begin another schedule cycle
   • It resets the model parameters to random values
   • It permanently fixes the learning rate at zero
   • It deletes the optimizer’s moment estimates
6. In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
   • It removed the need for a validation set
   • It eased early optimization difficulties after the learning-rate scale increased with batch size
   • It changed the model architecture after each epoch
   • It converted the learning-rate curve into a cosine wave
7. In the cosine formula, what does T denote?
   • The number of model layers
   • بیچ کا سائز
   • The schedule horizon or total number of steps used for the decay
   • The optimizer’s momentum coefficient
8. If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
   • Exactly zero regardless of lr_min
   • The original warmup starting rate
   • An unbounded value
   • The specified minimum learning rate