Quiz lié à un guide · Moyen Niveau

Quiz sur les têtes de décodage de Medusa

Passez en revue les têtes de prédiction multi-jetons de Medusa, les arbres candidats, la vérification de l'attention des arbres, l'acceptation du préfixe le plus long et la préservation de la distribution.

Chemins de guidage associésTêtes de décodage Medusa
Question 1 de 8

Que prédisent les têtes de Méduse supplémentaires ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Que prédisent les têtes de Méduse supplémentaires ?
    • Plusieurs futurs jetons à différentes positions à venir
    • La perte de formation du modèle
    • Quel GPU utiliser
    • La légende de l'image d'un jeton
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Il compresse parfaitement les poids du modèle
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Il ne fait jamais d'erreurs de grammaire
    • Cela supprime le besoin d’un vocabulaire
  3. Dans quelle structure les suites candidates de Medusa sont-elles organisées pour vérification ?
    • Une liste plate notée une à une
    • Une table de hachage
    • Un arbre marqué en un seul passage avec un masque d'attention aux arbres
    • Une boucle récurrente sur chaque jeton
  4. Quel est l’avantage clé de Medusa par rapport au décodage spéculatif à partir d’un modèle préliminaire ?
    • Il nécessite deux grands modèles distincts
    • Cela ne fonctionne que sur les images
    • Il supprime le modèle de base après utilisation
    • Cela évite d'avoir besoin d'un projet de modèle séparé en ajoutant des têtes à celui existant.
  5. À peu près quelle accélération Medusa rapporte-t-elle généralement ?
    • Environ 2-3x
    • Environ 0,5x (plus lent)
    • Exactement 100x
    • Aucun changement mesurable
  6. Qu'est-ce que chaque tête de Méduse, sur le plan architectural ?
    • Un transformateur en double complet
    • Une petite couche de feed-forward résiduel (MLP) au-dessus de l'état caché de base
    • Un encodeur d'image convolutif
    • Un tokeniseur séparé
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence