Kvíz spojený s průvodcem · Těžko úroveň
Předběžný kvíz o dekódování
Prohlédněte si předběžné větve, Jacobiho iterace, n-gramy uložené v mezipaměti, ověření cíle a kompromis ve výpočtu za snížením kroků sekvenčního dekódování.
Otázka 1 z 8
Co odlišuje dopředné dekódování od standardního spekulativního dekódování?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co odlišuje dopředné dekódování od standardního spekulativního dekódování?
- Vyžaduje dva samostatně trénované modely
- Nepoužívá žádný samostatný model návrhu – pouze samotný cílový model
- Funguje pouze pro překladatelské úlohy
- Trvale kvantuje model
- Která numerická metoda je základem dopředného dekódování?
- Gradientní sestup
- Fourierova transformace
- K-znamená shlukování
- Jacobiho iterace (s pevným bodem).
- Jaké jsou dvě paralelní větve, které běží v každém kroku?
- Tréninkový obor a testovací obor
- Kodér a dekodér
- Předběžná větev a ověřovací větev
- Návrhový model a cílový model
- Co je uloženo v 'n-gram poolu'?
- Přijatelné sekvence s více tokeny viděné během paralelních iterací
- Historie chatu uživatele
- Modelové váhy
- Pozor masky
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed