Викторина, связанная с руководством · Жесткий Уровень
Викторина по предварительному декодированию
Просмотрите ветки просмотра вперед, итерации Якоби, кэшированные n-граммы, целевую проверку и вычислительный компромисс, связанный с сокращением шагов последовательного декодирования.
Вопрос 1 из 8
Что отличает упреждающее декодирование от стандартного спекулятивного декодирования?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Что отличает упреждающее декодирование от стандартного спекулятивного декодирования?
- Требуется две отдельно обученные модели.
- Он не использует отдельную черновую модель — только саму целевую модель.
- Это работает только для задач перевода.
- Он постоянно квантует модель
- Какой численный метод лежит в основе упреждающего декодирования?
- Градиентный спуск
- Преобразование Фурье
- K-средства кластеризации
- Итерация Якоби (с фиксированной запятой)
- Какие две параллельные ветви выполняются на каждом этапе?
- Ветка обучения и ветка тестирования.
- Кодер и декодер
- Ветка прогнозирования и ветка проверки
- Эскиз модели и целевая модель
- Что хранится в «пуле n-грамм»?
- Правдоподобные последовательности из нескольких токенов, наблюдаемые во время параллельных итераций
- История чата пользователя
- Вес модели
- Маски внимания
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed