اختبار نمذجة اللغة المقنعة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما هي مهمة التدريب الأساسية في نمذجة اللغة المقنعة؟
   • توقع الكلمات المخفية عمدا من السياق المحيط
   • توقع الكلمة التالية بعد الجملة
   • ترجمة النص بين لغتين
   • ترتيب الجمل حسب صحتها النحوية
2. ما هي النسبة المئوية تقريبًا للرموز المميزة التي يخفيها BERT عادةً أثناء التدريب المسبق؟
   • حوالي 50%
   • حوالي 15%
   • حوالي 1%
   • حوالي 90%
3. لماذا تعطي الامتيازات والرهون البحرية فهمًا نموذجيًا ثنائي الاتجاه؟
   • يقرأ الجمل إلى الوراء
   • ويستخدم نموذجين منفصلين
   • يهتم كل رمز بالكلمات الموجودة على يساره ويمينه
   • فهو ينظر فقط إلى الكلمة السابقة
4. في مخطط إخفاء BERT، ماذا يحدث لحوالي 10% من المواضع المحددة بدلاً من أن تصبح [MASK]؟
   • يتم حذفها بالكامل
   • فهي مكررة
   • يتم رسملتها
   • يتم استبدالها بكلمة عشوائية
5. في أي المواقف يتم حساب خسارة الامتيازات والرهون البحرية؟
   • فقط المواقف المقنعة
   • كل رمز في الجملة
   • فقط الرموز الأولى والأخيرة
   • علامات الترقيم فقط
6. بالمقارنة مع التنبؤ بالرمز التالي، ما الذي تتداوله الامتيازات والرهون البحرية؟
   • القدرة على استخدام السياق
   • القدرة على توليد نص بطلاقة من اليسار إلى اليمين
   • الوصول إلى المفردات
   • استخدام الاهتمام
7. How does RoBERTa’s dynamic masking differ from BERT’s original setup?
   • It masks only the first token of every sentence
   • It predicts future tokens with a causal decoder
   • The masked positions can be regenerated across training passes instead of remaining fixed
   • It replaces all masked tokens with random numbers
8. What auxiliary objective did the original BERT pretraining recipe combine with MLM?
   • Image patch reconstruction
   • Audio speaker diarization
   • A reward model for code generation
   • Next-sentence prediction