گائیڈ سے منسلک کوئز · درمیانہ سطح

Nesterov Accelerated Gradient کوئز

ٹیسٹ کرنٹ بمقابلہ آگے دیکھنے والے گریڈینٹ، رفتار کی اصلاح، محدب شرح کا دائرہ، موازنہ لاگت، نادم، اور ایک عددی نظر آنے والا قدم۔

متعلقہ گائیڈ کے راستےنیسٹیروف ایکسیلریٹڈ گریڈینٹ
سوال 1 کی 8

کلاسیکی رفتار کے مقابلے میں نیسٹروف ایکسلریٹڈ گراڈینٹ کا واضح خیال کیا ہے؟

ہر سوال کا جائزہ لیں۔8 سوالات

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

  1. کلاسیکی رفتار کے مقابلے میں نیسٹروف ایکسلریٹڈ گراڈینٹ کا واضح خیال کیا ہے؟
    • یہ رفتار کو مکمل طور پر ہٹا دیتا ہے۔
    • یہ 1.0 کی ایک مقررہ سیکھنے کی شرح کا استعمال کرتا ہے۔
    • یہ موجودہ پوزیشن کے بجائے ایک نظر آنے والے نقطہ پر میلان کا اندازہ کرتا ہے۔
    • یہ صرف منی بیچوں کے بغیر کام کرتا ہے۔
  2. ہموار محدب مسائل پر Nesterov کا طریقہ کار کیا ثابت کنورجنسی کی شرح حاصل کرتا ہے؟
    • آرڈر 1/k^2
    • آرڈر 1/k
    • آرڈر 1/لاگ k
    • کوئی گارنٹی شدہ شرح نہیں۔
  3. اصل میں اس تیز رفتار تدریجی طریقہ کو کس نے متعارف کرایا؟
    • 2012 میں جیفری ہنٹن
    • آئزک نیوٹن
    • جان وان نیومن
    • یوری نیسٹروف 1983 میں
  4. مڑے ہوئے منیما کے قریب نظر آنے والا میلان کیوں مدد کرتا ہے؟
    • اس سے سیکھنے کی شرح بڑھ جاتی ہے۔
    • یہ اوور شوٹ کی توقع کرتا ہے اور اس کے ہونے سے پہلے ہی اصلاح کا اطلاق کرتا ہے۔
    • یہ رفتار کی اصطلاح کو حذف کرتا ہے۔
    • یہ قدم کی سمت کو بے ترتیب بناتا ہے۔
  5. عملی طور پر، نیسٹروف مومینٹم کی کمپیوٹیشنل لاگت کلاسیکی رفتار سے کیسے موازنہ کرتی ہے؟
    • تقریباً ویسا ہی، الجبری طور پر دوبارہ ترتیب دی گئی تازہ کاری کا شکریہ
    • تقریباً دس گنا زیادہ
    • اسے ہر قدم پر دوسرے مشتقات کی ضرورت ہوتی ہے۔
    • اسے GPUs پر شمار نہیں کیا جا سکتا
  6. کونسا انکولی آپٹیمائزر نیسٹروف کو ایڈم اسٹائل اسکیلنگ کے ساتھ جوڑتا ہے؟
    • RMSprop
    • اڈا گراڈ
    • نادم
    • ایل بی ایف جی ایس
  7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
    • 10.18
    • 9.82
    • 8.20
    • 10.90
  8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
    • At a point displaced by the full old velocity
    • At the previous validation score
    • At an arbitrary future minibatch
    • At the current parameter position