گائیڈ سے منسلک کوئز · درمیانہ سطح
وزن میں کمی اور L2 ریگولرائزیشن کوئز
ٹیسٹ L2 جرمانے، صفر کی طرف سکڑنا، SGD مساوی، AdamW decoupling، adaptive Scaling، اور تربیت میں decay power۔
سوال 1 کی 8
L2 ریگولرائزیشن نقصان کے فنکشن میں کیا اضافہ کرتی ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- L2 ریگولرائزیشن نقصان کے فنکشن میں کیا اضافہ کرتی ہے؟
- نیٹ ورک میں تہوں کی تعداد
- سیکھنے کی شرح پر جرمانہ
- تربیتی مثالوں کی گنتی
- مربع وزن کے مجموعے کے متناسب جرمانہ
- وزن میں کمی کو روکنے میں مدد کرنے والا بنیادی مسئلہ کیا ہے؟
- سست ڈیٹا لوڈنگ
- اوور فٹنگ، جہاں ماڈل تربیتی ڈیٹا میں شور کو حفظ کرتا ہے۔
- ہارڈ ویئر کی ناکامی۔
- غلط لیبلز
- وزن میں کمی ماڈل کے وزن کو کس سمت میں دھکیلتی ہے؟
- لامحدودیت کی طرف
- سب سے بڑے وزن کی طرف
- صفر کی طرف
- بے ترتیب اقدار کی طرف
- ایڈم ڈبلیو کو کیوں متعارف کرایا گیا؟
- انکولی گریڈینٹ اپ ڈیٹ سے وزن کی کمی کو دوگنا کرنے کے لیے تاکہ کشی صحیح طریقے سے برتاؤ کرے۔
- میلان کو مکمل طور پر ہٹانے کے لیے
- جان بوجھ کر تربیت کو سست بنانے کے لیے
- سیکھنے کی شرح کی ضرورت کو ختم کرنے کے لیے
- سادہ اسٹاکسٹک گریڈینٹ ڈیسنٹ کے لیے، L2 ریگولرائزیشن اور وزن میں کمی کا تعلق کیسے ہے؟
- وہ ہمیشہ مخالف ہوتے ہیں۔
- وہ ریاضیاتی طور پر برابر ہیں۔
- وزن میں کمی میلان کو غیر فعال کر دیتی ہے۔
- L2 صرف رفتار کے ساتھ SGD کے لیے کام کرتا ہے۔
- L2 ریگولرائزیشن میں لیمبڈا گتانک کیا کنٹرول کرتا ہے؟
- بیچ کا سائز
- عہدوں کی تعداد
- ایکٹیویشن فنکشن
- بڑے وزن پر جرمانے کی طاقت
- Why can adding an L2 term to Adam’s loss differ from applying decoupled weight decay?
- Adaptive per-parameter gradient scaling can distort the coupled penalty
- Adam cannot train with any regularization
- The two methods use different training labels
- Decoupled decay removes the data loss
- In a simple decoupled update, what changes the fractional shrinkage of a weight?
- Only the number of classes
- Only the model’s input dimension
- The learning rate and decay coefficient together
- Only the validation-set size