Útmutatóhoz kapcsolódó kvíz · Kemény Szint

Előretekintő dekódolási kvíz

Review lookahead branches, Jacobi iterations, cached n-grams, target verification, and the compute tradeoff behind reducing sequential decoding steps.

Kapcsolódó útmutató utakElőretekintés dekódolás
kérdés 1 -ból 8

Mi különbözteti meg az előretekintő dekódolást a szabványos spekulatív dekódolástól?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mi különbözteti meg az előretekintő dekódolást a szabványos spekulatív dekódolástól?
    • Két külön betanított modell szükséges
    • Nem használ külön vázlatmodellt – csak magát a célmodellt
    • Csak fordítási feladatoknál működik
    • Állandóan kvantifikálja a modellt
  2. Melyik numerikus módszer támasztja alá az előretekintő dekódolást?
    • Gradiens süllyedés
    • Fourier transzformáció
    • A K-csoportosulást jelent
    • Jacobi (fixpontos) iteráció
  3. Melyik az a két párhuzamos ág, amely minden lépésnél fut?
    • Egy képzési ág és egy tesztelő ág
    • Egy kódoló és egy dekódoló
    • Egy előretekintő ág és egy ellenőrző ág
    • Vázlatmodell és célmodell
  4. Mit tárol az „n-gram pool”?
    • Valószínű több token sorozatok láthatók a párhuzamos iterációk során
    • A felhasználó csevegési előzményei
    • Modell súlyok
    • Figyelem maszkok
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed