اختبار مرتبط بالدليل · متوسط المستوى
مسابقة فك رموز ميدوسا
قم بمراجعة رؤوس التنبؤ متعددة الرموز الخاصة بـ Medusa، والأشجار المرشحة، والتحقق من انتباه الشجرة، وقبول البادئة الأطول، والحفاظ على التوزيع.
سؤال 1 من 8
ماذا تتوقع رؤوس ميدوسا الإضافية؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ماذا تتوقع رؤوس ميدوسا الإضافية؟
- رموز مستقبلية متعددة في مواقع مختلفة للأمام
- فقدان التدريب للنموذج
- ما GPU للاستخدام
- التسمية التوضيحية للصورة رمزية
- Under which Medusa configuration does the paper describe lossless inference acceleration?
- يقوم بضغط أوزان الموديل بشكل مثالي
- Medusa-1 with a frozen backbone and exact verification against the original model
- لا يرتكب أي أخطاء في القواعد
- فهو يلغي الحاجة إلى المفردات
- ما هو الهيكل الذي تم ترتيب استمرارية مرشح ميدوسا للتحقق منه؟
- قائمة مسطحة وسجل واحدا تلو الآخر
- جدول التجزئة
- تم تسجيل شجرة في تمريرة واحدة باستخدام قناع انتباه الشجرة
- حلقة متكررة فوق كل رمز مميز
- ما هي الميزة الرئيسية لميدوسا مقارنة بفك التشفير التخميني لنموذج المسودة؟
- يتطلب نموذجين كبيرين منفصلين
- إنه يعمل فقط على الصور
- يقوم بحذف النموذج الأساسي بعد الاستخدام
- إنه يتجنب الحاجة إلى نموذج مسودة منفصل عن طريق إضافة رؤوس إلى النموذج الموجود
- ما هي السرعة التي يبلغ عنها ميدوسا عادةً؟
- حوالي 2-3x
- حوالي 0.5x (أبطأ)
- بالضبط 100x
- لا يوجد تغيير قابل للقياس
- ما هو كل رأس ميدوسا فرديا من الناحية المعمارية؟
- محول مكرر كامل
- طبقة تغذية للأمام (MLP) صغيرة متبقية أعلى الحالة المخفية الأساسية
- برنامج تشفير الصور التلافيفي
- رمز منفصل
- What does Medusa accept from a verified candidate tree?
- Every speculative branch regardless of verification
- Only the shortest candidate token
- The longest prefix consistent with the base model’s decoding result
- A random leaf from the tree
- How do Medusa’s prediction-head offsets differ?
- Every head predicts the same next token
- Each head predicts a different vocabulary
- The heads predict tokens only after decoding is complete
- Each head predicts a token at a different position ahead in the sequence