Тест, свързан с ръководство · трудно Ниво

Тест за Mixtral и Sparse модели

Прегледайте маршрутизирането на Mixtral, експертното активиране, общите спрямо активните параметри и практическите компромиси с памет и разгръщане на редките модели.

Свързани ръководни пътекиMixtral и Sparse модели
Въпрос 1 на 8

В Mixtral 8x7B колко експерти обработват всеки отделен токен?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. В Mixtral 8x7B колко експерти обработват всеки отделен токен?
    • Двама експерти
    • Всички осем експерти
    • Точно един експерт
    • Всеки път произволно число
  2. Какъв компонент решава до кои експерти се изпраща токен?
    • Токенизаторът
    • Рутерът (шлюзираща мрежа)
    • Слоят на вниманието
    • Таблицата за вграждане
  3. Въпреки че Mixtral 8x7B има общо около 47B параметри, колко приблизително са активни на токен?
    • Около 47 милиарда
    • Около 7 милиарда
    • Около 13 милиарда
    • Около 70 милиарда
  4. What must a Mixtral serving setup account for even when only two experts run per token?
    • Only the active parameters ever need to be stored anywhere
    • All experts must always fit in GPU memory with no offloading option
    • Unused experts can be deleted without changing the checkpoint
    • The full expert weights must be available to the system, with residency or offloading depending on deployment
  5. Под какъв лиценз Mistral AI пусна Mixtral, подхранвайки отвореното приемане?
    • Apache 2.0
    • Патентован, само със затворен код
    • GPL v3
    • Creative Commons с некомерсиална цел
  6. What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
    • Премахва необходимостта от каквито и да било данни за обучение
    • Supervised fine-tuning and direct preference optimization (DPO)
    • Той елиминира изцяло необходимостта от графични процесори
    • Гарантира, че моделите никога не правят грешки
  7. How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
    • Двама експерти
    • Seven experts
    • Eight experts
    • Twelve experts
  8. Which languages does Mistral list for Mixtral 8x7B?
    • Yes; all unused expert weights are deleted
    • Yes; it means the model is dense with 12.9B total parameters
    • No; it means every parameter is active for every token
    • English, French, Italian, German, and Spanish