ガイド連動クイズ · ハード レベル

混合モデルと疎モデルに関するクイズ

Mixtral ルーティング、エキスパート アクティベーション、合計パラメータとアクティブ パラメータ、およびスパース モデルの実際のメモリとデプロイメントのトレードオフを確認します。

関連するガイドパス混合モデルと疎モデル
質問 1 の 8

Mixtral 8x7B では、それぞれのトークンを何人の専門家が処理しますか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. Mixtral 8x7B では、それぞれのトークンを何人の専門家が処理しますか?
    • 2 人の専門家
    • 8人の専門家全員が
    • まさに一人の専門家
    • 毎回乱数
  2. トークンがどの専門家に送信されるかを決定するコンポーネントは何ですか?
    • トークナイザー
    • ルーター（ゲートネットワーク）
    • 注目層
    • 埋め込みテーブル
  3. Mixtral 8x7B には合計約 47B のパラメータがありますが、トークンごとにアクティブなパラメータはおよそどれくらいでしょうか?
    • 約470億
    • 約70億
    • 約130億
    • 約700億
  4. What must a Mixtral serving setup account for even when only two experts run per token?
    • Only the active parameters ever need to be stored anywhere
    • All experts must always fit in GPU memory with no offloading option
    • Unused experts can be deleted without changing the checkpoint
    • The full expert weights must be available to the system, with residency or offloading depending on deployment
  5. Mistral AI はどのライセンスに基づいて Mixtral をリリースし、オープン アダプションを促進しましたか?
    • アパッチ2.0
    • プロプライエタリ、クローズドソースのみ
    • GPL v3
    • クリエイティブ コモンズ 非営利
  6. What training steps does Mistral report for the Mixtral 8x7B Instruct variant?
    • トレーニング データが不要になります
    • Supervised fine-tuning and direct preference optimization (DPO)
    • GPU の必要性が完全に不要になります
    • モデルが決して間違いを犯さないことを保証します
  7. How many expert networks are available in each Mixtral 8x7B sparse mixture-of-experts layer?
    • 2 人の専門家
    • Seven experts
    • Eight experts
    • Twelve experts
  8. Which languages does Mistral list for Mixtral 8x7B?
    • Yes; all unused expert weights are deleted
    • Yes; it means the model is dense with 12.9B total parameters
    • No; it means every parameter is active for every token
    • English, French, Italian, German, and Spanish