اختبار مرتبط بالدليل · متوسط المستوى
مسابقة الشبكات المتبقية
مراجعة حساب كتلة المتبقي، الاختصارات الهوية، مسارات التدرج، عمق عصر ImageNet، وكيفية تكرار المتبقيات في بنى الشبكات العصبية.
سؤال 1 من 8
ما هي المشكلة التي حلتها الاتصالات المتبقية على وجه التحديد؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هي المشكلة التي حلتها الاتصالات المتبقية على وجه التحديد؟
- تدريب الشبكات البسيطة الأعمق أسوأ من الشبكات الضحلة (التدهور)
- الصور ذات دقة منخفضة جدًا
- نقص في بيانات التدريب المسمى
- نفاد ذاكرة وحدات معالجة الرسومات
- ماذا تحسب كتلة المتبقي الأساسية عندما تتطابق أبعاد الإدخال والإخراج؟
- يضرب الإدخال في نفسه
- يضيف الدالة المتبقية المتعلمة للكتلة إلى إدخاله، y = F(x) + x
- يسقط الإدخال ويعيد الصفر
- يرتب قنوات الإدخال أبجديًا
- لماذا يساعد تخطي الاتصالات التدرجات أثناء التدريب؟
- إنهم يلغون الحاجة لتدريب الأوزان
- إنهم يجبرون كل طبقة على إنتاج الصفر
- يوفرون مسارًا مباشرًا إضافيًا لتدفق التدرج حول التحويل المتعلم
- يجعلون الشبكات العميقة محصنة من جميع مشاكل التحسين
- ما هو أعمق ResNet تم تقييمه في ورقة ImageNet الأصلية؟
- 18 طبقة
- 34 طبقة
- 50 طبقة
- 152 طبقة
- إذا تعلمت طبقات الكتلة المتبقية أن F(x) = 0، فماذا تفعل الكتلة؟
- يقوم بتمرير المدخلات بشكل فعال من خلال (الهوية) دون تغيير
- يخرج الصفر ويكسر الشبكة
- فهو يضاعف المدخلات
- إنه عشوائي الإخراج
- ما هو الاتصال المتبقي الذي تصفه ورقة Transformer حول طبقة الانتباه والطبقة المتغذية إلى الأمام؟
- Replace the sublayer input with a class label
- Add each sublayer’s output to the sublayer input through a residual connection
- Average every token globally at the output only
- Remove the residual stream after self-attention
- When a residual block changes channel dimensions, what can a projection shortcut do?
- Convert the input into a text sequence
- Remove the residual branch
- Map the shortcut input to the dimensions required for addition
- Guarantee that every gradient has unit magnitude
- What sequence of convolutions defines the original ResNet bottleneck block?
- Three 3×3 convolutions only
- A 3×3 convolution followed by two fully connected layers
- A pooling layer followed by two transposed convolutions
- A 1×1, then 3×3, then 1×1 convolution