Gids-gekoppelde quiz · Moeilijk Niveau

Lookahead-decoderingsquiz

Bekijk lookahead-takken, Jacobi-iteraties, in de cache opgeslagen n-grammen, doelverificatie en de compute-afweging achter het verminderen van sequentiële decoderingsstappen.

Gerelateerde gidspadenLookahead-decodering
Vraag 1 van 8

Wat onderscheidt lookahead-decodering van standaard speculatieve decodering?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat onderscheidt lookahead-decodering van standaard speculatieve decodering?
    • Er zijn twee afzonderlijk getrainde modellen voor nodig
    • Er wordt geen afzonderlijk conceptmodel gebruikt, alleen het doelmodel zelf
    • Het werkt alleen voor vertaaltaken
    • Het kwantiseert het model permanent
  2. Welke numerieke methode ligt ten grondslag aan de lookahead-decodering?
    • Gradiënt afdaling
    • Fourier-transformatie
    • K-betekent clustering
    • Jacobi-iteratie (vast punt).
  3. Wat zijn de twee parallelle takken die bij elke stap lopen?
    • Een trainingstak en een testtak
    • Een encoder en een decoder
    • Een vooruitkijktak en een verificatietak
    • Een schetsmodel en een doelmodel
  4. Wat wordt er opgeslagen in de 'n-gram pool'?
    • Plausibele reeksen met meerdere tokens gezien tijdens de parallelle iteraties
    • De chatgeschiedenis van de gebruiker
    • Modelgewichten
    • Aandachtsmaskers
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed