اختبار مرتبط بالدليل · صعب المستوى
مسابقة النماذج المختلطة والمتفرقة
قم بمراجعة توجيه Mixtral، وتنشيط الخبراء، والمعلمات الإجمالية مقابل المعلمات النشطة، والذاكرة العملية ومقايضات النشر للنماذج المتفرقة.
سؤال 1 من 8
في Mixtral 8x7B، كم عدد الخبراء الذين يعالجون كل رمز مميز على حدة؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- في Mixtral 8x7B، كم عدد الخبراء الذين يعالجون كل رمز مميز على حدة؟
- خبيران
- جميع الخبراء الثمانية
- خبير واحد بالضبط
- رقم عشوائي في كل مرة
- ما هو المكون الذي يقرر الخبراء الذين سيتم إرسال الرمز المميز إليهم؟
- الرمز المميز
- جهاز التوجيه (شبكة البوابات)
- طبقة الاهتمام
- جدول التضمين
- على الرغم من أن Mixtral 8x7B يحتوي على إجمالي 47B من المعلمات تقريبًا، ما عدد المعلمات النشطة تقريبًا لكل رمز مميز؟
- حوالي 47 مليار
- حوالي 7 مليار
- حوالي 13 مليار
- حوالي 70 مليار
- What must a Mixtral serving setup account for even when only two experts run per token?
- Only the active parameters ever need to be stored anywhere
- All experts must always fit in GPU memory with no offloading option
- Unused experts can be deleted without changing the checkpoint
- The full expert weights must be available to the system, with residency or offloading depending on deployment
- بموجب أي ترخيص قامت شركة Mistral AI بإصدار Mixtral، مما أدى إلى التبني المفتوح؟
- أباتشي 2.0
- ملكية خاصة ومغلقة المصدر فقط
- جي بي إل v3
- المشاع الإبداعي غير التجاري
- What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
- يلغي الحاجة إلى أي بيانات التدريب
- Supervised fine-tuning and direct preference optimization (DPO)
- إنه يلغي الحاجة إلى وحدات معالجة الرسومات تمامًا
- إنه يضمن أن النماذج لن ترتكب أي أخطاء أبدًا
- How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
- خبيران
- Seven experts
- Eight experts
- Twelve experts
- Which languages does Mistral list for Mixtral 8x7B?
- Yes; all unused expert weights are deleted
- Yes; it means the model is dense with 12.9B total parameters
- No; it means every parameter is active for every token
- English, French, Italian, German, and Spanish