Quiz collegato alla guida · Difficile Livello
Quiz sulla decodifica Lookahead
Esamina i rami lookahead, le iterazioni di Jacobi, gli n-grammi memorizzati nella cache, la verifica del target e il compromesso di calcolo dietro la riduzione dei passaggi di decodifica sequenziali.
Domanda 1 di 8
Cosa distingue la decodifica lookahead dalla decodifica speculativa standard?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Cosa distingue la decodifica lookahead dalla decodifica speculativa standard?
- Richiede due modelli addestrati separatamente
- Non utilizza un modello di bozza separato, ma solo il modello di destinazione stesso
- Funziona solo per le attività di traduzione
- Quantizza permanentemente il modello
- Quale metodo numerico è alla base della decodifica lookahead?
- Discesa gradiente
- Trasformata di Fourier
- K-significa clustering
- Iterazione di Jacobi (punto fisso).
- Quali sono i due rami paralleli che corrono ad ogni passo?
- Un ramo di formazione e un ramo di sperimentazione
- Un codificatore e un decodificatore
- Un ramo lookahead e un ramo di verifica
- Un modello preliminare e un modello target
- Cosa viene memorizzato nel "pool di n-grammi"?
- Sequenze multi-token plausibili viste durante le iterazioni parallele
- La cronologia chat dell'utente
- Pesi del modello
- Maschere di attenzione
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed