Викторина, связанная с руководством · Жесткий Уровень

Викторина по предварительному декодированию

Просмотрите ветки просмотра вперед, итерации Якоби, кэшированные n-граммы, целевую проверку и вычислительный компромисс, связанный с сокращением шагов последовательного декодирования.

Связанные направляющие путиУпреждающее декодирование
Вопрос 1 из 8

Что отличает упреждающее декодирование от стандартного спекулятивного декодирования?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Что отличает упреждающее декодирование от стандартного спекулятивного декодирования?
    • Требуется две отдельно обученные модели.
    • Он не использует отдельную черновую модель — только саму целевую модель.
    • Это работает только для задач перевода.
    • Он постоянно квантует модель
  2. Какой численный метод лежит в основе упреждающего декодирования?
    • Градиентный спуск
    • Преобразование Фурье
    • K-средства кластеризации
    • Итерация Якоби (с фиксированной запятой)
  3. Какие две параллельные ветви выполняются на каждом этапе?
    • Ветка обучения и ветка тестирования.
    • Кодер и декодер
    • Ветка прогнозирования и ветка проверки
    • Эскиз модели и целевая модель
  4. Что хранится в «пуле n-грамм»?
    • Правдоподобные последовательности из нескольких токенов, наблюдаемые во время параллельных итераций
    • История чата пользователя
    • Вес модели
    • Маски внимания
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed