اختبار طويل لخلايا الذاكرة قصيرة المدى

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?
   • قراءة وكتابة وتنفيذ البوابات
   • بوابات البدء والإيقاف والإيقاف المؤقت
   • بوابات النسيان وبوابات الإدخال والإخراج
   • تشفير وفك التشفير وحضور البوابات
2. What training difficulty was LSTM designed to mitigate?
   • هناك عدد كبير جدًا من المعلمات التي يجب تخزينها
   • Vanishing gradients during learning over long sequences
   • عدم القدرة على استخدام GPU
   • عدم وجود وظيفة التنشيط
3. من قدم LSTM وفي أي عام؟
   • فاسواني وزملاؤه في عام 2017
   • روميلهارت وهينتون في عام 1986
   • ليكون وبينجيو في عام 2012
   • هوخريتر وشميدهوبر في عام 1997
4. In a common LSTM cell update, why can the additive cell-state path help gradient flow?
   • It reduces reliance on repeated multiplicative transformations across time steps
   • يقوم بضرب الحالة بعدد كبير في كل خطوة
   • يقوم بحذف الحالة في كل خطوة
   • يقوم بتجميد جميع الأوزان أثناء التدريب
5. ما هي وظيفة التنشيط التي تستخدمها بوابات LSTM عادةً لتكون بمثابة مفاتيح تشغيل/إيقاف تشغيل ناعمة؟
   • ReLU، إخراج 0 إلى ما لا نهاية
   • Softmax على المفردات
   • دالة خطوة تنتج بالضبط 0 أو 1
   • السيني، الإخراج من 0 إلى 1
6. لماذا استبدلت Transformers إلى حد كبير LSTMs لنمذجة اللغة على نطاق واسع؟
   • لا يمكن للمحولات التعامل مع النص على الإطلاق
   • لا تتطلب LSTMs أي تدريب
   • تتوازي المحولات عبر التسلسل وتلتقط سياقًا طويل المدى من خلال الانتباه
   • تستخدم المحولات أرقامًا أقل بكثير في المجموع
7. If an LSTM forget gate is near one and its input gate near zero, what happens to the cell state?
   • It largely retains the previous state
   • It is forced to zero
   • It becomes the raw input token
   • It must reverse the sequence
8. Which gate controls how much of an LSTM cell’s stored state is exposed as output?
   • The forget gate alone
   • The output gate
   • The optimizer momentum term
   • The positional encoding gate