ওজন ক্ষয় এবং L2 নিয়মিতকরণ কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. L2 নিয়মিতকরণ ক্ষতি ফাংশন কি যোগ করে?
   • নেটওয়ার্কে স্তরের সংখ্যা
   • শেখার হারের উপর একটি জরিমানা
   • প্রশিক্ষণ উদাহরণ গণনা
   • বর্গ ওজনের সমষ্টির সমানুপাতিক একটি শাস্তি
2. ওজন ক্ষয় প্রতিরোধে সাহায্য করে এমন প্রধান সমস্যা কী?
   • ধীরগতির ডেটা লোড হচ্ছে
   • ওভারফিটিং, যেখানে মডেল প্রশিক্ষণের ডেটাতে গোলমাল মুখস্থ করে
   • হার্ডওয়্যার ব্যর্থতা
   • ভুল লেবেল
3. ওজন ক্ষয় মডেলের ওজনকে কোন দিকে ঠেলে দেয়?
   • অনন্তের দিকে
   • সবচেয়ে বড় ওজনের দিকে
   • শূন্যের দিকে
   • র্যান্ডম মান প্রতি
4. কেন অ্যাডামডব্লিউ চালু করা হয়েছিল?
   • অভিযোজিত গ্রেডিয়েন্ট আপডেট থেকে ওজন ক্ষয়কে দ্বিগুণ করতে যাতে ক্ষয় সঠিকভাবে আচরণ করে
   • গ্রেডিয়েন্ট সম্পূর্ণরূপে অপসারণ
   • উদ্দেশ্যমূলক প্রশিক্ষণ ধীর করতে
   • শেখার হারের প্রয়োজনীয়তা দূর করতে
5. প্লেইন স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্টের জন্য, L2 নিয়মিতকরণ এবং ওজন ক্ষয় কীভাবে সম্পর্কিত?
   • তারা সবসময় বিপরীত
   • তারা গাণিতিকভাবে সমতুল্য
   • ওজন ক্ষয় গ্রেডিয়েন্টকে অক্ষম করে
   • L2 শুধুমাত্র ভরবেগ সহ SGD এর জন্য কাজ করে
6. L2 নিয়মিতকরণে ল্যাম্বডা সহগ নিয়ন্ত্রণ করে কী?
   • ব্যাচের আকার
   • যুগের সংখ্যা
   • সক্রিয়করণ ফাংশন
   • বড় ওজনের উপর শাস্তির শক্তি
7. Why can adding an L2 term to Adam’s loss differ from applying decoupled weight decay?
   • Adaptive per-parameter gradient scaling can distort the coupled penalty
   • Adam cannot train with any regularization
   • The two methods use different training labels
   • Decoupled decay removes the data loss
8. In a simple decoupled update, what changes the fractional shrinkage of a weight?
   • Only the number of classes
   • Only the model’s input dimension
   • The learning rate and decay coefficient together
   • Only the validation-set size