Quiz lié à un guide · Difficile Niveau
Quiz de décodage anticipé
Passez en revue les branches d'anticipation, les itérations de Jacobi, les n-grammes mis en cache, la vérification de la cible et le compromis de calcul derrière la réduction des étapes de décodage séquentielles.
Question 1 de 8
Qu’est-ce qui distingue le décodage anticipé du décodage spéculatif standard ?
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- Qu’est-ce qui distingue le décodage anticipé du décodage spéculatif standard ?
- Cela nécessite deux modèles formés séparément
- Il n'utilise aucun modèle de brouillon distinct, uniquement le modèle cible lui-même.
- Cela ne fonctionne que pour les tâches de traduction
- Il quantifie en permanence le modèle
- Quelle méthode numérique sous-tend le décodage anticipé ?
- Descente de gradient
- Transformée de Fourier
- K-means clustering
- Itération de Jacobi (virgule fixe)
- Quelles sont les deux branches parallèles qui s’exécutent à chaque étape ?
- Une branche formation et une branche tests
- Un encodeur et un décodeur
- Une branche d'anticipation et une branche de vérification
- Un projet de modèle et un modèle cible
- Qu'est-ce qui est stocké dans le « pool n-gram » ?
- Séquences multi-jetons plausibles observées lors des itérations parallèles
- L'historique des discussions de l'utilisateur
- Poids du modèle
- Masques d'attention
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed