اختبار نماذج التسلسل إلى التسلسل

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما هما المكونان الرئيسيان لنموذج التسلسل إلى التسلسل؟
   • التشفير وفك التشفير
   • رمز مميز ومصنف
   • اثنين من التشفير متطابقة
   • مرشح ومرتبة
2. ما هي المشكلة الرئيسية التي حلتها آلية الانتباه في نماذج seq2seq؟
   • الترميز البطيء
   • عنق الزجاجة المتجه ذو الطول الثابت للمدخلات الطويلة
   • عدم وجود المفردات
   • بيانات التدريب المفرطة
3. ما هي البنية التي استخدمها نموذج الترجمة seq2seq الأصلي لعام 2014؟
   • الشبكات التلافيفية
   • أشجار القرار
   • LSTMs مكدسة
   • طبقات التغذية الأمامية العارية
4. كيف يبني الاهتمام السياق لكل خطوة من خطوات فك التشفير؟
   • عن طريق حساب متوسط جميع رموز الإدخال بالتساوي
   • من خلال تجاهل التشفير تماما
   • عن طريق نسخ رمز الإدخال الأخير
   • بواسطة مجموع مرجح لحالات التشفير باستخدام درجات المحاذاة
5. لماذا يمكن أن تختلف مخرجات seq2seq في الطول عن المدخلات؟
   • يقوم جهاز فك التشفير بإنشاء الرموز المميزة حتى يصدر إشارة توقف
   • المدخلات والمخرجات دائما متساوية الطول
   • يقوم جهاز التشفير بتغطية كل شيء
   • يتم تحديد الطول مقدما
6. ما هي النماذج الحديثة التي تعتبر من بنيات seq2seq المستندة إلى المحولات؟
   • ريسنيت وVGG
   • T5 وبارت
   • K- يعني و PCA
   • Word2Vec و GloVe
7. In encoder-decoder attention, which representations are commonly used as keys and values?
   • Only the decoder’s future hidden states
   • The vocabulary file’s byte offsets
   • The encoder’s output representations
   • The optimizer’s learning-rate history
8. What does a bidirectional encoder provide to an attention-based decoder?
   • A fixed one-token output regardless of the input
   • A guarantee that output length equals input length
   • A causal mask over future target tokens
   • Contextual representations of source tokens that can use information from both directions