Quiz połączony z przewodnikiem · Ciężko Poziom
Quiz dotyczący dekodowania z wyprzedzeniem
Przejrzyj gałęzie lookahead, iteracje Jacobiego, n-gramy w pamięci podręcznej, weryfikację celu i kompromis obliczeniowy związany z redukcją kolejnych etapów dekodowania.
Pytanie 1 z 8
Co odróżnia dekodowanie z wyprzedzeniem od standardowego dekodowania spekulatywnego?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- Co odróżnia dekodowanie z wyprzedzeniem od standardowego dekodowania spekulatywnego?
- Wymaga dwóch oddzielnie przeszkolonych modeli
- Nie wykorzystuje oddzielnego modelu roboczego — jedynie sam model docelowy
- Działa tylko w przypadku zadań tłumaczeniowych
- Trwale kwantyzuje model
- Która metoda numeryczna leży u podstaw dekodowania z wyprzedzeniem?
- Zejście gradientowe
- Transformata Fouriera
- K-oznacza grupowanie
- Iteracja Jacobiego (punkt stały).
- Jakie są dwie równoległe gałęzie biegnące na każdym kroku?
- Branża szkoleniowa i branża testowa
- Koder i dekoder
- Oddział lookahead i oddział weryfikacji
- Model roboczy i model docelowy
- Co jest przechowywane w „puli n-gramów”?
- Wiarygodne sekwencje wielu tokenów zaobserwowane podczas równoległych iteracji
- Historia czatów użytkownika
- Wagi modeli
- Uwaga maski
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed