اختبار مرتبط بالدليل · متوسط المستوى
اختبار ضبط البادئة
قم بتقييم النهج الأساسي المتجمد لضبط البادئة، وتوفير المعلمات لكل مهمة، ووضع طبقة الانتباه، والنتائج المتعلقة بمهام إنشاء اللغة الطبيعية.
سؤال 1 من 8
ما الذي يتدرب عليه ضبط البادئة فعليًا؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما الذي يتدرب عليه ضبط البادئة فعليًا؟
- جميع أوزان المحولات الخاصة بالنموذج
- فقط طبقة المفردات الناتجة للنموذج
- نسخة منفصلة من النموذج لكل مهمة
- مجموعة صغيرة من متجهات البادئة المستمرة بينما يظل النموذج مجمداً
- أين يتم حقن ناقلات البادئة؟
- في المفاتيح والقيم في كل طبقة اهتمام
- فقط في طبقة الإخراج النهائية
- في وظيفة الخسارة فقط
- في الرمز المميز قبل التضمين
- من الذي أدخل ضبط البادئة ومتى تقريبًا؟
- OpenAI في عام 2018
- لي وليانغ في جامعة ستانفورد في عام 2021
- Google في عام 2015
- Meta في عام 2023
- لماذا يعد ضبط البادئة أمرًا جذابًا لخدمة العديد من المهام؟
- لا يتطلب أي بيانات تدريب على الإطلاق
- فهو يجعل الاستدلال يعمل على عدم وجود أجهزة
- تحتاج كل مهمة إلى بادئة صغيرة فقط بدلاً من نسخة النموذج الكاملة
- يقوم بإعادة كتابة النموذج الأساسي لجميع المهام في وقت واحد بشكل دائم
- ما هي الحيلة التي تُستخدم غالبًا لتحقيق الاستقرار في تدريب البادئة؟
- مضاعفة معدل التعلم في كل خطوة
- تجميد البادئة وتدريب النموذج
- إزالة كافة طبقات الاهتمام
- إعادة ضبط البادئة من خلال شبكة تغذية أمامية صغيرة يتم تجاهلها لاحقًا
- في أي نوع من المهام تألق ضبط البادئة بشكل خاص؟
- توليد اللغة الطبيعية مثل تحويل الجدول إلى نص والتلخيص
- تصنيف الصور
- التوليف الموجي الصوتي
- فهرسة قاعدة البيانات
- What proportion of model parameters did the original prefix-tuning paper report learning in its experiments?
- About 10%
- About 0.1%
- حوالي 50%
- All model parameters
- How did prefix-tuning perform in the paper’s low-data settings?
- It always matched full fine-tuning on every task
- It could not train with limited examples
- It outperformed full fine-tuning in some evaluated low-data cases
- It changed every backbone parameter