اختبار مرتبط بالدليل · صعب المستوى

مسابقة النماذج المختلطة والمتفرقة

قم بمراجعة توجيه Mixtral، وتنشيط الخبراء، والمعلمات الإجمالية مقابل المعلمات النشطة، والذاكرة العملية ومقايضات النشر للنماذج المتفرقة.

مسارات الدليل ذات الصلةالنماذج المختلطة والمتفرقة
سؤال 1 من 8

في Mixtral 8x7B، كم عدد الخبراء الذين يعالجون كل رمز مميز على حدة؟

معاينة كل سؤال8 أسئلة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

  1. في Mixtral 8x7B، كم عدد الخبراء الذين يعالجون كل رمز مميز على حدة؟
    • خبيران
    • جميع الخبراء الثمانية
    • خبير واحد بالضبط
    • رقم عشوائي في كل مرة
  2. ما هو المكون الذي يقرر الخبراء الذين سيتم إرسال الرمز المميز إليهم؟
    • الرمز المميز
    • جهاز التوجيه (شبكة البوابات)
    • طبقة الاهتمام
    • جدول التضمين
  3. على الرغم من أن Mixtral 8x7B يحتوي على إجمالي 47B من المعلمات تقريبًا، ما عدد المعلمات النشطة تقريبًا لكل رمز مميز؟
    • حوالي 47 مليار
    • حوالي 7 مليار
    • حوالي 13 مليار
    • حوالي 70 مليار
  4. What must a Mixtral serving setup account for even when only two experts run per token?
    • Only the active parameters ever need to be stored anywhere
    • All experts must always fit in GPU memory with no offloading option
    • Unused experts can be deleted without changing the checkpoint
    • The full expert weights must be available to the system, with residency or offloading depending on deployment
  5. بموجب أي ترخيص قامت شركة Mistral AI بإصدار Mixtral، مما أدى إلى التبني المفتوح؟
    • أباتشي 2.0
    • ملكية خاصة ومغلقة المصدر فقط
    • جي بي إل v3
    • المشاع الإبداعي غير التجاري
  6. What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
    • يلغي الحاجة إلى أي بيانات التدريب
    • Supervised fine-tuning and direct preference optimization (DPO)
    • إنه يلغي الحاجة إلى وحدات معالجة الرسومات تمامًا
    • إنه يضمن أن النماذج لن ترتكب أي أخطاء أبدًا
  7. How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
    • خبيران
    • Seven experts
    • Eight experts
    • Twelve experts
  8. Which languages does Mistral list for Mixtral 8x7B?
    • Yes; all unused expert weights are deleted
    • Yes; it means the model is dense with 12.9B total parameters
    • No; it means every parameter is active for every token
    • English, French, Italian, German, and Spanish