مسابقة نظرية النواة العصبية

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. في حدود العرض اللانهائي، كيف تتصرف نواة الظل العصبي أثناء التدريب؟
   • يبقى ثابتًا بشكل أساسي
   • يتغير بسرعة في كل خطوة
   • يصبح صفراً
   • ينمو بشكل كبير
2. ما هو NTK رياضيا؟
   • هسه الخسارة
   • المنتج الداخلي لتدرجات معلمات الشبكة لمدخلين
   • softmax من المخرجات
   • تباين الأوزان
3. من الذي قدم نواة الظل العصبي؟
   • هينتون وسالاخوتدينوف
   • ليكون وبينجيو
   • جاكوت، غابرييل، وهونغلر (2018)
   • فاسواني وزملاؤه
4. ما هو نظام "التدريب الكسول"؟
   • عندما يتم إيقاف التدريب مؤقتًا
   • عندما لا يستخدم المحسن أي زخم
   • عندما يتم تغذية البيانات ببطء
   • عندما تتحرك المعلمات بالكاد من التهيئة وتتصرف الشبكة بشكل خطي
5. أحد القيود الرئيسية لنظرية NTK للشبكات الحقيقية هو أنها تفتقد:
   • ميزة التعلم في الشبكات ذات العرض المحدود
   • دور النسب التدرج
   • وجود الأوزان
   • استخدام بيانات التدريب
6. لأن NTK يقلل التدريب إلى انحدار النواة، ما الذي يصبح ممكنًا؟
   • القضاء على الحاجة إلى أي بيانات
   • التنبؤ بمخرجات المتدربين دون التدريب الكامل
   • تشغيل النماذج بدون معلمات
   • ضمان عدم وجود خطأ في الاختبار دائمًا
7. In the infinite-width limit, what probabilistic model are neural networks equivalent to at initialization?
   • نموذج ماركوف المخفي
   • مجموعة شجرة القرار
   • A Gaussian process
   • A finite-state game controller
8. For least-squares regression in the NTK limit, what mathematical form does the network function's training evolution follow?
   • A discrete rule that randomly changes labels
   • A decision tree that grows one branch per epoch
   • A nonlinear search over audio frames
   • A linear differential equation in function space