Kvíz spojený s průvodcem · Těžko úroveň

Předběžný kvíz o dekódování

Prohlédněte si předběžné větve, Jacobiho iterace, n-gramy uložené v mezipaměti, ověření cíle a kompromis ve výpočtu za snížením kroků sekvenčního dekódování.

Související vodicí cestyDopředné dekódování
Otázka 1 z 8

Co odlišuje dopředné dekódování od standardního spekulativního dekódování?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Co odlišuje dopředné dekódování od standardního spekulativního dekódování?
    • Vyžaduje dva samostatně trénované modely
    • Nepoužívá žádný samostatný model návrhu – pouze samotný cílový model
    • Funguje pouze pro překladatelské úlohy
    • Trvale kvantuje model
  2. Která numerická metoda je základem dopředného dekódování?
    • Gradientní sestup
    • Fourierova transformace
    • K-znamená shlukování
    • Jacobiho iterace (s pevným bodem).
  3. Jaké jsou dvě paralelní větve, které běží v každém kroku?
    • Tréninkový obor a testovací obor
    • Kodér a dekodér
    • Předběžná větev a ověřovací větev
    • Návrhový model a cílový model
  4. Co je uloženo v 'n-gram poolu'?
    • Přijatelné sekvence s více tokeny viděné během paralelních iterací
    • Historie chatu uživatele
    • Modelové váhy
    • Pozor masky
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed