Quiz collegato alla guida · Difficile Livello

Quiz sulla decodifica Lookahead

Esamina i rami lookahead, le iterazioni di Jacobi, gli n-grammi memorizzati nella cache, la verifica del target e il compromesso di calcolo dietro la riduzione dei passaggi di decodifica sequenziali.

Percorsi guida correlatiDecodifica Lookahead
Domanda 1 di 8

Cosa distingue la decodifica lookahead dalla decodifica speculativa standard?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Cosa distingue la decodifica lookahead dalla decodifica speculativa standard?
    • Richiede due modelli addestrati separatamente
    • Non utilizza un modello di bozza separato, ma solo il modello di destinazione stesso
    • Funziona solo per le attività di traduzione
    • Quantizza permanentemente il modello
  2. Quale metodo numerico è alla base della decodifica lookahead?
    • Discesa gradiente
    • Trasformata di Fourier
    • K-significa clustering
    • Iterazione di Jacobi (punto fisso).
  3. Quali sono i due rami paralleli che corrono ad ogni passo?
    • Un ramo di formazione e un ramo di sperimentazione
    • Un codificatore e un decodificatore
    • Un ramo lookahead e un ramo di verifica
    • Un modello preliminare e un modello target
  4. Cosa viene memorizzato nel "pool di n-grammi"?
    • Sequenze multi-token plausibili viste durante le iterazioni parallele
    • La cronologia chat dell'utente
    • Pesi del modello
    • Maschere di attenzione
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed