নেস্টেরভ এক্সিলারেটেড গ্রেডিয়েন্ট কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. ক্লাসিক্যাল ভরবেগের তুলনায় নেস্টেরভ এক্সিলারেটেড গ্রেডিয়েন্টের সংজ্ঞায়িত ধারণা কী?
   • এটা সম্পূর্ণরূপে ভরবেগ অপসারণ
   • এটি 1.0 এর একটি নির্দিষ্ট শেখার হার ব্যবহার করে
   • এটি বর্তমান অবস্থানের পরিবর্তে একটি লুক-হেড পয়েন্টে গ্রেডিয়েন্টকে মূল্যায়ন করে
   • এটি শুধুমাত্র মিনি-ব্যাচ ছাড়াই কাজ করে
2. মসৃণ উত্তল সমস্যার ক্ষেত্রে নেস্টেরভের পদ্ধতিটি কী প্রমাণযোগ্য অভিসারী হার অর্জন করে?
   • অর্ডার 1/k^2
   • অর্ডার 1/k
   • অর্ডার 1/লগ কে
   • কোন গ্যারান্টিযুক্ত হার
3. কে মূলত এই ত্বরিত গ্রেডিয়েন্ট পদ্ধতি চালু করেন?
   • 2012 সালে জিওফ্রে হিন্টন
   • আইজ্যাক নিউটন
   • জন ভন নিউম্যান
   • 1983 সালে ইউরি নেস্টেরভ
4. বাঁকা মিনিমার কাছে লুক-হেড গ্রেডিয়েন্ট কেন সাহায্য করে?
   • এটি শেখার হার বৃদ্ধি করে
   • এটি ওভারশুটের পূর্বাভাস দেয় এবং এটি হওয়ার আগে একটি সংশোধন প্রয়োগ করে
   • এটি বেগ শব্দটি মুছে দেয়
   • এটি ধাপের দিকনির্দেশকে এলোমেলো করে
5. অনুশীলনে, নেস্টেরভ ভরবেগের কম্পিউটেশনাল খরচ ক্লাসিক্যাল ভরবেগের সাথে কীভাবে তুলনা করে?
   • মোটামুটি একই, একটি বীজগণিতিকভাবে পুনর্বিন্যস্ত আপডেটের জন্য ধন্যবাদ
   • প্রায় দশগুণ বেশি
   • এটি প্রতিটি ধাপে দ্বিতীয় ডেরিভেটিভস প্রয়োজন
   • এটি GPU-তে গণনা করা যায় না
6. কোন অভিযোজিত অপ্টিমাইজার অ্যাডাম-স্টাইল স্কেলিং-এর সাথে নেস্টেরভ লুক-আহেডকে একত্রিত করে?
   • RMSprop
   • আদাগ্রাদ
   • নাদাম
   • এলবিএফজিএস
7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
   • 10.18
   • 9.82
   • 8.20
   • 10.90
8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
   • At a point displaced by the full old velocity
   • At the previous validation score
   • At an arbitrary future minibatch
   • At the current parameter position