Quiz połączony z przewodnikiem · Ciężko Poziom

Quiz dotyczący dekodowania z wyprzedzeniem

Przejrzyj gałęzie lookahead, iteracje Jacobiego, n-gramy w pamięci podręcznej, weryfikację celu i kompromis obliczeniowy związany z redukcją kolejnych etapów dekodowania.

Powiązane ścieżki prowadząceDekodowanie z wyprzedzeniem
Pytanie 1 z 8

Co odróżnia dekodowanie z wyprzedzeniem od standardowego dekodowania spekulatywnego?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Co odróżnia dekodowanie z wyprzedzeniem od standardowego dekodowania spekulatywnego?
    • Wymaga dwóch oddzielnie przeszkolonych modeli
    • Nie wykorzystuje oddzielnego modelu roboczego — jedynie sam model docelowy
    • Działa tylko w przypadku zadań tłumaczeniowych
    • Trwale kwantyzuje model
  2. Która metoda numeryczna leży u podstaw dekodowania z wyprzedzeniem?
    • Zejście gradientowe
    • Transformata Fouriera
    • K-oznacza grupowanie
    • Iteracja Jacobiego (punkt stały).
  3. Jakie są dwie równoległe gałęzie biegnące na każdym kroku?
    • Branża szkoleniowa i branża testowa
    • Koder i dekoder
    • Oddział lookahead i oddział weryfikacji
    • Model roboczy i model docelowy
  4. Co jest przechowywane w „puli n-gramów”?
    • Wiarygodne sekwencje wielu tokenów zaobserwowane podczas równoległych iteracji
    • Historia czatów użytkownika
    • Wagi modeli
    • Uwaga maski
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed