اختبار إلكترا للتدريب المسبق

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما هي مهمة التدريب المسبق التي تستخدمها ELECTRA بدلاً من نمذجة اللغة المقنعة؟
   • استبدال الكشف عن الرمز المميز
   • توقعات الجملة التالية
   • الانحدار التلقائي التنبؤ بالكلمة التالية
   • نمذجة اللغة التقليب
2. لماذا تعتبر ELECTRA أكثر كفاءة في الحوسبة من BERT؟
   • ويستخدم مفردات أصغر بكثير
   • فهو يحسب إشارة التعلم على جميع الرموز، وليس فقط تلك المقنعة
   • إنه يتدرب فقط على 15% من الرموز المقنعة
   • إنه يتخطى آلية الانتباه تمامًا
3. ما هو الدور الذي تلعبه شبكة المولدات الصغيرة في شركة ELECTRA؟
   • ويصنف المخرجات النهائية حسب الجودة
   • يقوم بضغط النموذج بعد التدريب
   • إنه ينتج رموزًا بديلة معقولة ليحكم عليها المُميِّز
   • يقوم بترجمة النص بين اللغات
4. ماذا يحدث للمولد بعد اكتمال التدريب المسبق؟
   • تم ضبطه جيدًا للمهمة النهائية
   • يتم دمجها مع التمييز
   • يصبح فك التشفير للجيل
   • يتم التخلص منه. يتم استخدام التمييز فقط
5. تم تطوير ELECTRA في المقام الأول من قبل باحثين من أي منظمات؟
   • Google وستانفورد
   • Meta منظمة العفو الدولية وجامعة نيويورك
   • OpenAI وMicrosoft
   • ديب مايند وأكسفورد
6. ما هو النموذج اللاحق الذي وسع فكرة ELECTRA لاستبدال الرمز المميز؟
   • جي بي تي-2
   • ديبيرتا-v3
   • T5
   • Word2Vec
7. What happens if ELECTRA’s generator proposes the original token at a position?
   • It is always labeled replaced because the generator proposed it
   • The position is removed from the input
   • That token is treated as original by the discriminator’s replaced-token label
   • The whole sequence is discarded
8. When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
   • Compare model names alone
   • Assume every ELECTRA run uses one fixed compute ratio
   • Ignore generator training cost
   • Specify model size, data, training budget, and evaluation setting