ガイド連動クイズ · 中 レベル

メデューサ デコーディング ヘッズ クイズ

Medusa のマルチトークン予測ヘッド、候補ツリー、ツリー アテンションの検証、最長プレフィックスの受け入れ、分布の保存を確認します。

関連するガイドパスメドゥーサ デコーディング ヘッド
質問 1 の 8

余分なメデューサの頭は何を予測しますか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. 余分なメデューサの頭は何を予測しますか?
    • 先の異なる位置にある複数の将来のトークン
    • モデルのトレーニング損失
    • どのGPUを使用するか
    • トークンの画像キャプション
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • モデルの重みを完全に圧縮します
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • 文法を間違えることはありません
    • 語彙力が不要になる
  3. メドゥーサの継続候補はどのような構成で検証されているのでしょうか？
    • 1 つずつスコアを付けたフラットなリスト
    • ハッシュテーブル
    • ツリー アテンション マスクを使用して 1 回のパスで得点したツリー
    • 各トークンの反復ループ
  4. ドラフト モデルの投機的デコードに対する Medusa の主な利点は何ですか?
    • 2 つの別々の大きなモデルが必要です
    • 画像に対してのみ機能します
    • 使用後にベースモデルを削除します
    • 既存のドラフト モデルにヘッドを追加することで、別のドラフト モデルの必要性を回避します。
  5. Medusa は通常どのくらいの速度向上を報告しますか?
    • 2～3倍程度
    • 約0.5倍（遅い）
    • ちょうど 100 倍
    • 測定可能な変化なし
  6. 個々のメドゥーサの頭は、建築的にはどのようなものですか?
    • 完全に複製されたトランスフォーマー
    • 基本の隠れ状態の上にある小さな残留フィードフォワード (MLP) 層
    • 畳み込み画像エンコーダ
    • 個別のトークナイザー
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence