مکسٹرل اور اسپارس ماڈلز کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. Mixtral 8x7B میں، کتنے ماہرین ہر انفرادی ٹوکن پر کارروائی کرتے ہیں؟
   • دو ماہرین
   • تمام آٹھ ماہرین
   • بالکل ایک ماہر
   • ہر بار ایک بے ترتیب نمبر
2. کون سا جزو فیصلہ کرتا ہے کہ کن ماہرین کو ٹوکن بھیجا جائے؟
   • ٹوکنائزر
   • روٹر (گیٹنگ نیٹ ورک)
   • توجہ کی پرت
   • ایمبیڈنگ ٹیبل
3. اگرچہ Mixtral 8x7B میں تقریباً 47B کل پیرامیٹرز ہیں، فی ٹوکن تقریباً کتنے فعال ہیں؟
   • تقریباً 47 ارب
   • تقریباً 7 ارب
   • تقریباً 13 ارب
   • تقریباً 70 ارب
4. What must a Mixtral serving setup account for even when only two experts run per token?
   • Only the active parameters ever need to be stored anywhere
   • All experts must always fit in GPU memory with no offloading option
   • Unused experts can be deleted without changing the checkpoint
   • The full expert weights must be available to the system, with residency or offloading depending on deployment
5. کس لائسنس کے تحت Mistral AI نے Mixtral کو جاری کیا، کھلے عام اپنانے کے لیے؟
   • اپاچی 2.0
   • ملکیتی، صرف بند ذریعہ
   • GPL v3
   • تخلیقی العام غیر تجارتی
6. What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
   • یہ کسی بھی تربیتی ڈیٹا کی ضرورت کو دور کرتا ہے۔
   • Supervised fine-tuning and direct preference optimization (DPO)
   • یہ GPUs کی ضرورت کو مکمل طور پر ختم کرتا ہے۔
   • یہ گارنٹی دیتا ہے کہ ماڈلز کبھی غلطی نہیں کرتے
7. How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
   • دو ماہرین
   • Seven experts
   • Eight experts
   • Twelve experts
8. Which languages does Mistral list for Mixtral 8x7B?
   • Yes; all unused expert weights are deleted
   • Yes; it means the model is dense with 12.9B total parameters
   • No; it means every parameter is active for every token
   • English, French, Italian, German, and Spanish