طبقات المحول لاختبار النقل

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ماذا يحدث للأوزان الأصلية المدربة عند التدريب باستخدام المحولات؟
   • يتم تجميدها بينما يتم تدريب معلمات المحول فقط
   • يتم حذفها
   • يتم إعادة تهيئتهم بشكل عشوائي
   • حجمها مضاعف
2. ما هو الهيكل الداخلي النموذجي لمحول عنق الزجاجة؟
   • طبقة واحدة كثيفة ضخمة
   • إسقاط لأسفل، ثم عدم خطية، ثم إسقاط لأعلى، مع اتصال متبقي
   • فقط رئيس الاهتمام
   • مرشح الصورة التلافيفية
3. ما هو الجزء تقريبًا من المعلمات التي تقوم المحولات بتدريبها عادةً؟
   • 100%
   • بالضبط 50%
   • في كثير من الأحيان أقل من 5٪
   • لا شيء على الإطلاق
4. لماذا تعتبر المحولات ملائمة لخدمة العديد من المهام؟
   • أنها تتطلب نسخة نموذجية كاملة منفصلة لكل مهمة
   • لا يمكن الجمع بينهما
   • يقومون بمسح النموذج الأساسي بعد كل مهمة
   • يمكنك الاحتفاظ بنموذج أساسي واحد وتبديل المحولات الصغيرة لكل مهمة
5. إلى أي عائلة من التقنيات تنتمي المحولات؟
   • الضبط الدقيق ذو كفاءة المعلمة (PEFT)
   • زيادة البيانات
   • ضغط الصورة
   • مخططات الترميز
6. ما الميزة التي تقدمها LoRA مقارنة بالمحول الكلاسيكي المدرج في وقت الاستدلال؟
   • لا يمكن تدريبه
   • يمكن دمج الأوزان التي تم تعلمها في المصفوفات الأساسية، وتجنب الكمون الإضافي لكل طبقة
   • يتطلب إعادة تدريب النموذج بأكمله
   • يزيل الاتصال المتبقي بشكل دائم
7. What does a residual connection contribute to a classic bottleneck adapter?
   • A second full pretrained model copy for each task
   • A mandatory external retrieval database
   • A path that adds the adapter’s transformed representation back to the original hidden state
   • A guarantee that no added computation occurs
8. What is one benefit of stacking a domain adapter with a task adapter?
   • Merge all user data into the frozen base weights automatically
   • Avoid using any adapter modules
   • Convert a language model into a vision encoder
   • Reuse a domain specialization together with a separate task specialization