তীক্ষ্ণতা-সচেতন মিনিমাইজেশন কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. SAM কি ধরনের সর্বনিম্ন খুঁজে বের করার চেষ্টা করে?
   • একটি সমতল ন্যূনতম যেখানে ওজনের আশেপাশে ক্ষতি কম থাকে
   • তীক্ষ্ণতম সম্ভাব্য সর্বনিম্ন
   • সর্বাধিক প্যারামিটার সহ সর্বনিম্ন
   • যেকোন ন্যূনতম এক ধাপে পৌঁছানো যায়
2. একটি স্ট্যান্ডার্ড SAM ধাপের জন্য কতগুলি ফরওয়ার্ড-পিছনগামী পাস প্রয়োজন?
   • অর্ধেক পাস
   • মোটামুটি দুই
   • ঠিক এক
   • দশ বা তার বেশি
3. ব্যাসার্ধ হাইপারপ্যারামিটার rho SAM এ কী নিয়ন্ত্রণ করে?
   • শেখার হার ক্ষয় গতি
   • প্রশিক্ষণ যুগের সংখ্যা
   • ওজনের চারপাশের আশেপাশের আকার যা ক্ষতির স্পাইক থেকে সুরক্ষিত
   • ঝরে পড়ার সম্ভাবনা
4. প্রতিটি পুনরাবৃত্তিতে SAM এর দুটি ধাপের প্রথমটি কী?
   • মডেলটি সঙ্কুচিত করুন
   • অতীতের সমস্ত ধাপের গড় ওজন
   • অপ্টিমাইজার অবস্থা রিসেট করুন
   • সবচেয়ে খারাপ ক্ষেত্রে কাছাকাছি পয়েন্টের দিকে rho আকারের একটি আরোহী পদক্ষেপ নিন
5. কেন SAM প্রায়ই গোলমাল লেবেল করার দৃঢ়তা উন্নত করে?
   • কারণ ফ্ল্যাট মিনিমা ক্ষতিগ্রস্থ লেবেলগুলি মনে রাখার প্রবণতা কম
   • কারণ এটি স্বয়ংক্রিয়ভাবে শোরগোল লেবেল মুছে দেয়
   • কারণ এটি একটি বড় শব্দভান্ডার ব্যবহার করে
   • কারণ এটি ব্যাচের আকারকে তিনগুণ করে
6. এইগুলির মধ্যে কোনটি SAM-এর কম্পিউট খরচ কমানোর জন্য ডিজাইন করা হয়েছে?
   • ReLU
   • ESAM (দক্ষ SAM)
   • ব্যাচনর্ম
   • অ্যাডাগ্রাড
7. In SAM’s second pass, which gradient is used to update the original model weights?
   • The gradient of a random label
   • The first pass gradient without evaluating the perturbed point
   • The gradient evaluated at the perturbed nearby weights
   • A gradient from a different model checkpoint
8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
   • The model parameters are all set to zero
   • The loss becomes independent of the weights
   • The optimizer takes an infinite step
   • There is no weight perturbation, so the neighborhood reduces to the current point