Вікторина, пов’язана з посібником · важко Рівень
Вікторина з розшифровки Lookahead
Ознайомтеся з випереджальними розгалуженнями, ітераціями Якобі, кешованими n-грамами, цільовою перевіркою та компромісом обчислень за скороченням послідовних кроків декодування.
Питання 1 з 8
Що відрізняє випереджальне декодування від стандартного спекулятивного декодування?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Що відрізняє випереджальне декодування від стандартного спекулятивного декодування?
- Для цього потрібні дві окремо навчені моделі
- Він не використовує окрему чорнову модель — лише саму цільову модель
- Він працює лише для завдань перекладу
- Він постійно квантує модель
- Який чисельний метод лежить в основі попереднього декодування?
- Градієнтний спуск
- Перетворення Фур'є
- K-означає кластеризацію
- Ітерація Якобі (з фіксованою комою).
- Які дві паралельні гілки проходять на кожному кроці?
- Навчальна гілка та тестова гілка
- Кодер і декодер
- Гілка перегляду та гілка перевірки
- Чорнова модель і цільова модель
- Що зберігається в «n-грамовому пулі»?
- Правдоподібні послідовності з кількома маркерами, які можна побачити під час паралельних ітерацій
- Історія чату користувача
- Модельні ваги
- Маски уваги
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed