Quiz lié à un guide · Difficile Niveau

Quiz de décodage anticipé

Passez en revue les branches d'anticipation, les itérations de Jacobi, les n-grammes mis en cache, la vérification de la cible et le compromis de calcul derrière la réduction des étapes de décodage séquentielles.

Chemins de guidage associésDécodage anticipé
Question 1 de 8

Qu’est-ce qui distingue le décodage anticipé du décodage spéculatif standard ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Qu’est-ce qui distingue le décodage anticipé du décodage spéculatif standard ?
    • Cela nécessite deux modèles formés séparément
    • Il n'utilise aucun modèle de brouillon distinct, uniquement le modèle cible lui-même.
    • Cela ne fonctionne que pour les tâches de traduction
    • Il quantifie en permanence le modèle
  2. Quelle méthode numérique sous-tend le décodage anticipé ?
    • Descente de gradient
    • Transformée de Fourier
    • K-means clustering
    • Itération de Jacobi (virgule fixe)
  3. Quelles sont les deux branches parallèles qui s’exécutent à chaque étape ?
    • Une branche formation et une branche tests
    • Un encodeur et un décodeur
    • Une branche d'anticipation et une branche de vérification
    • Un projet de modèle et un modèle cible
  4. Qu'est-ce qui est stocké dans le « pool n-gram » ?
    • Séquences multi-jetons plausibles observées lors des itérations parallèles
    • L'historique des discussions de l'utilisateur
    • Poids du modèle
    • Masques d'attention
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed