اختبار مرتبط بالدليل · متوسط المستوى
مسابقة ضبط سريعة
قم بمراجعة المطالبات الناعمة في طبقة الإدخال، وإعداد النموذج المجمد، والنتائج المعتمدة على المقياس المُبلغ عنها للضبط الفوري.
سؤال 1 من 8
ما هو "المطالبة الناعمة" في الضبط الفوري؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هو "المطالبة الناعمة" في الضبط الفوري؟
- تعلمت ناقلات التضمين المستمر التي لا تحتاج إلى تعيين كلمات حقيقية
- تعليمات نصية مصاغة بأدب
- نسخة مقطرة أصغر من النموذج
- مجموعة من سجلات الإخراج المجمدة
- أين يضيف الضبط الفوري ناقلاته القابلة للتدريب؟
- في كل طبقة المحولات
- فقط في طبقة تضمين الإدخال
- فقط في طبقة الإخراج
- داخل حالة المحسن
- ما هو التأثير المفاجئ الذي أبرزته الورقة الأصلية حول مقياس النموذج؟
- يزداد الضبط الفوري سوءًا مع نمو النماذج
- المقياس ليس له أي تأثير على الضبط الفوري
- مع نمو النماذج بشكل أكبر، يقترب الضبط الفوري من جودة الضبط الدقيق الكاملة
- لم يعد من الممكن ضبط النماذج الأكبر حجمًا بسرعة
- الذي قدم ضبط سريع؟
- ديب مايند في عام 2016
- Anthropic في عام 2023
- Microsoft في عام 2019
- الباحثون في Google (ليستر، الرفوع، كونستانت) في عام 2021
- كيف يمكن الضبط السريع من خدمة العديد من المهام من نموذج واحد؟
- تستخدم كل مهمة موجهًا بسيطًا صغيرًا خاصًا بها بينما يظل النموذج مجمداً
- فهو يعيد تدريب النموذج بأكمله لكل طلب
- يقوم بحذف المهام غير المستخدمة من الأوزان
- يتطلب وحدة معالجة رسومات منفصلة لكل مهمة
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- ويف نت
- AlphaFold2
- T5
- غابة العزلة
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors