اختبار مرتبط بالدليل · صعب المستوى
اختبار نمذجة التقليب XLNet
يتحقق من تحليل التبديل، والانتباه ثنائي المسار، وتكرار Transformer-XL، وكيف تعتمد مطالبات المعيار على إعدادات قابلة للمقارنة.
سؤال 1 من 8
ما هو هدف التدريب المسبق الذي يستخدمه XLNet؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هو هدف التدريب المسبق الذي يستخدمه XLNet؟
- نمذجة اللغة التقليب
- نمذجة اللغة المقنعة
- استبدال الكشف عن الرمز المميز
- توقعات الجملة التالية
- ما هي نقاط ضعف BERT التي تم تصميم XLNet خصيصًا لمعالجتها؟
- كان بيرت صغيرًا جدًا
- يتسبب الرمز المميز [MASK] في عدم تطابق ما قبل التدريب/الضبط الدقيق ويفترض استقلال الرمز المميز المقنع
- لم يتمكن بيرت من التعامل مع الجمل القصيرة
- يفتقر BERT إلى الترميزات الموضعية
- ما الذي يفصل بين الاهتمام الذاتي ثنائي التدفق لـ XLNet؟
- طبقات التشفير وفك التشفير
- الرسوم البيانية للتدريب والاستدلال
- دفق المحتوى ودفق الاستعلام
- تضمين الرموز والجمل
- هل يقوم XLNet بخلط الكلمات فعليًا في الجملة؟
- نعم، فهو يعيد ترتيب الرموز الفعلية بشكل عشوائي
- نعم، ولكن فقط أثناء الضبط الدقيق
- لا، لا يغير أي ترتيب على الإطلاق
- لا، فهو يعدل ترتيب التحليل باستخدام أقنعة الانتباه مع الحفاظ على المواضع
- ما هي البنية التي تعمل بمثابة العمود الفقري لـ XLNet للسياق طويل المدى؟
- محول-XL
- LSTM
- ترانسفورمر الفانيليا الأصلي
- شبكة تلافيفية
- How does XLNet combine bidirectional context with autoregressive prediction?
- It predicts all tokens independently with no attention mask
- It predicts in sampled factorization orders without inserting a [MASK] input token, using attention masks
- It physically shuffles the sentence before every prediction
- It replaces autoregressive prediction with a denoising autoencoder
- For a token sequence A B C, suppose a sampled factorization order predicts C before A and B. What context is available when predicting C?
- The tokens A and B must always be provided first
- Only the next sentence is available
- No earlier tokens in that sampled order, although C remains at its original input position
- The input sequence is physically reordered to C A B
- How does XLNet prevent the target token from leaking into its own prediction query?
- It removes the target from the entire training sequence
- It uses the target’s label as an input embedding
- It replaces the token with a [MASK] symbol
- The query stream represents the target position without its token content