مامبا ومسابقة مساحات الدولة الانتقائية

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما هي الميزة الحسابية الرئيسية لـ Mamba مقارنة بالمحول القياسي؟
   • يتم قياسه خطيًا بطول التسلسل بدلاً من التربيعي
   • لا يحتاج إلى بيانات التدريب
   • إنه يعمل فقط على الصور
   • إنه يلغي الحاجة إلى أي حالة مخفية
2. ما الذي تشير إليه كلمة "انتقائي" في لغة المامبا؟
   • فهو يحدد وحدة معالجة الرسومات التي سيتم تشغيلها عليها
   • تعتمد معلمات SSM الخاصة به على رمز الإدخال، لذلك يمكنه اختيار ما يجب تذكره أو نسيانه
   • فهو يختار الأسماء والأفعال فقط
   • فهو يختار مجموعة فرعية عشوائية من الرموز المميزة لتجاهلها
3. كيف يمثل نموذج فضاء الحالة تاريخ التسلسل؟
   • عن طريق تخزين كل رمز سابق بشكل صريح
   • من خلال رسم خريطة الانتباه على جميع الأزواج
   • عن طريق ضغط التاريخ في حالة مخفية ذات حجم ثابت يتم تحديثها خطوة بخطوة
   • ولا يحتفظ بأي تاريخ
4. لماذا لا تستطيع Mamba استخدام اختصار الالتواء السريع الذي استخدمته أجهزة SSM السابقة؟
   • لأن التلافيف غير قانونية على وحدات معالجة الرسومات
   • لأنه لا يوجد لديه المعلمات
   • لأنه يعالج الرموز المميزة بترتيب عشوائي
   • لأن جعل المعلمات تعتمد على المدخلات يكسر التلافيف التي تتطلب ثبات الوقت
5. ما هي التقنية التي يستخدمها مامبا للبقاء سريعًا على الرغم من فقدان اختصار الالتواء؟
   • يتم الاحتفاظ بالفحص المتوازي المتوافق مع الأجهزة في ذاكرة GPU السريعة
   • يعمل بالكامل على وحدة المعالجة المركزية
   • التخزين المؤقت لجميع أزواج الرمز المميز
   • تخطي معظم التسلسل
6. من قدم مامبا ومتى تقريبًا؟
   • OpenAI في عام 2018
   • ألبرت جو وتري داو في أواخر عام 2023
   • Google في عام 2015
   • لا أحد، إنه افتراضي
7. Which Mamba state-space parameters are made functions of the current input?
   • Only the fixed transition matrix A
   • The output vocabulary and tokenizer
   • B, C, and the step size delta
   • The attention query and key heads
8. What do the variable B, C, and delta parameters let Mamba do?
   • Build a growing key-value cache for every token
   • Route each token to an expert network only
   • Replace the state update with full all-pairs attention
   • Choose how much information to let into the state and how much to retain based on the input