Karışımsal ve Seyrek Modeller Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Mixtral 8x7B'de her bir token kaç uzman tarafından işleniyor?
   • İki uzman
   • Sekiz uzmanın tamamı
   • Tam olarak bir uzman
   • Her seferinde rastgele bir sayı
2. Bir tokenın hangi uzmanlara gönderileceğine hangi bileşen karar veriyor?
   • Belirteçleyici
   • Yönlendirici (geçiş ağı)
   • Dikkat katmanı
   • Yerleştirme tablosu
3. Mixtral 8x7B'nin yaklaşık 47B toplam parametresi olmasına rağmen, token başına kabaca kaç tanesi aktiftir?
   • Yaklaşık 47 milyar
   • Yaklaşık 7 milyar
   • Yaklaşık 13 milyar
   • Yaklaşık 70 milyar
4. What must a Mixtral serving setup account for even when only two experts run per token?
   • Only the active parameters ever need to be stored anywhere
   • All experts must always fit in GPU memory with no offloading option
   • Unused experts can be deleted without changing the checkpoint
   • The full expert weights must be available to the system, with residency or offloading depending on deployment
5. Mistral AI, Mixtral'ı hangi lisans kapsamında piyasaya sürerek açık benimsemeyi teşvik etti?
   • Apaçi 2.0
   • Yalnızca tescilli, kapalı kaynak
   • GPL v3
   • Creative Commons Ticari Olmayan
6. What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
   • Herhangi bir eğitim verisine olan ihtiyacı ortadan kaldırır
   • Supervised fine-tuning and direct preference optimization (DPO)
   • GPU ihtiyacını tamamen ortadan kaldırır
   • Modellerin asla hata yapmayacağını garanti eder
7. How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
   • İki uzman
   • Seven experts
   • Eight experts
   • Twelve experts
8. Which languages does Mistral list for Mixtral 8x7B?
   • Yes; all unused expert weights are deleted
   • Yes; it means the model is dense with 12.9B total parameters
   • No; it means every parameter is active for every token
   • English, French, Italian, German, and Spanish