Mit dem Guide verknüpftes Quiz · Schwer Ebene

Lookahead-Dekodierungsquiz

Sehen Sie sich Lookahead-Zweige, Jacobi-Iterationen, zwischengespeicherte N-Gramme, Zielüberprüfung und den Rechenkompromiss bei der Reduzierung sequenzieller Decodierungsschritte an.

Verwandte FührungspfadeLookahead-Dekodierung
Frage 1 von 8

Was unterscheidet die Lookahead-Dekodierung von der standardmäßigen spekulativen Dekodierung?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was unterscheidet die Lookahead-Dekodierung von der standardmäßigen spekulativen Dekodierung?
    • Es erfordert zwei separat trainierte Modelle
    • Es verwendet kein separates Entwurfsmodell, sondern nur das Zielmodell selbst
    • Es funktioniert nur für Übersetzungsaufgaben
    • Es quantisiert das Modell permanent
  2. Welche numerische Methode liegt der Lookahead-Dekodierung zugrunde?
    • Gefälleabstieg
    • Fourier-Transformation
    • K-bedeutet Clustering
    • Jacobi-Iteration (Festkomma).
  3. Was sind die beiden parallelen Zweige, die bei jedem Schritt verlaufen?
    • Ein Trainingszweig und ein Testzweig
    • Ein Encoder und ein Decoder
    • Ein Lookahead-Zweig und ein Verifizierungszweig
    • Ein Entwurfsmodell und ein Zielmodell
  4. Was wird im „n-gram-Pool“ gespeichert?
    • Plausible Multi-Token-Sequenzen, die während der parallelen Iterationen beobachtet wurden
    • Der Chatverlauf des Benutzers
    • Modellgewichte
    • Achtung Masken
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed