Вікторина, пов’язана з посібником · важко Рівень

Вікторина з розшифровки Lookahead

Ознайомтеся з випереджальними розгалуженнями, ітераціями Якобі, кешованими n-грамами, цільовою перевіркою та компромісом обчислень за скороченням послідовних кроків декодування.

Пов'язані напрямні шляхиПопереднє декодування
Питання 1 з 8

Що відрізняє випереджальне декодування від стандартного спекулятивного декодування?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Що відрізняє випереджальне декодування від стандартного спекулятивного декодування?
    • Для цього потрібні дві окремо навчені моделі
    • Він не використовує окрему чорнову модель — лише саму цільову модель
    • Він працює лише для завдань перекладу
    • Він постійно квантує модель
  2. Який чисельний метод лежить в основі попереднього декодування?
    • Градієнтний спуск
    • Перетворення Фур'є
    • K-означає кластеризацію
    • Ітерація Якобі (з фіксованою комою).
  3. Які дві паралельні гілки проходять на кожному кроці?
    • Навчальна гілка та тестова гілка
    • Кодер і декодер
    • Гілка перегляду та гілка перевірки
    • Чорнова модель і цільова модель
  4. Що зберігається в «n-грамовому пулі»?
    • Правдоподібні послідовності з кількома маркерами, які можна побачити під час паралельних ітерацій
    • Історія чату користувача
    • Модельні ваги
    • Маски уваги
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed