Test pentru modele mixtrale și rare

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. În Mixtral 8x7B, câți experți procesează fiecare token individual?
   • Doi experți
   • Toți cei opt experți
   • Exact un expert
   • Un număr aleatoriu de fiecare dată
2. Ce componentă decide căror experți este trimis un jeton?
   • Tokenizatorul
   • Routerul (rețeaua de acces)
   • Stratul de atenție
   • Tabelul de încorporare
3. Deși Mixtral 8x7B are aproximativ 47B parametri totali, aproximativ câți sunt activi pe token?
   • Aproximativ 47 de miliarde
   • Aproximativ 7 miliarde
   • Aproximativ 13 miliarde
   • Aproximativ 70 de miliarde
4. What must a Mixtral serving setup account for even when only two experts run per token?
   • Only the active parameters ever need to be stored anywhere
   • All experts must always fit in GPU memory with no offloading option
   • Unused experts can be deleted without changing the checkpoint
   • The full expert weights must be available to the system, with residency or offloading depending on deployment
5. Sub ce licență a lansat Mistral AI Mixtral, stimulând adopția deschisă?
   • Apache 2.0
   • Proprietar, numai cu sursă închisă
   • GPL v3
   • Creative Commons Noncomercial
6. What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
   • Îndepărtează necesitatea oricăror date de antrenament
   • Supervised fine-tuning and direct preference optimization (DPO)
   • Elimină complet necesitatea GPU-urilor
   • Garantează că modelele nu greșesc niciodată
7. How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
   • Doi experți
   • Seven experts
   • Eight experts
   • Twelve experts
8. Which languages does Mistral list for Mixtral 8x7B?
   • Yes; all unused expert weights are deleted
   • Yes; it means the model is dense with 12.9B total parameters
   • No; it means every parameter is active for every token
   • English, French, Italian, German, and Spanish