Викторина, связанная с руководством · Средний Уровень
Викторина по параллельному декодированию «Скелет мысли»
Тестовые схемы «скелета мысли», независимое расширение точек, пакетное декодирование, накладные расходы, авторегрессия по точкам и сборка окончательного ответа.
Вопрос 1 из 8
Что производит первая стадия Скелета Мысли?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Что производит первая стадия Скелета Мысли?
- Полный окончательный ответ
- Доработанная контрольная точка модели
- Краткий скелет заголовков пунктов
- Набор обучающих этикеток
- Почему этап расширения точек может проходить параллельно?
- Потому что каждый пункт зависит от предыдущего
- Потому что точки во многом независимы друг от друга
- Потому что модель переобучена на параллелизм
- Поскольку токены генерируются в обратном порядке
- Каковы основные узкие места SoT при обычном декодировании LLM?
- Последовательная задержка для каждого токена
- Скорость чтения диска
- Размер словаря токенизатора
- Пропускная способность сети для пользователя
- Which answer structure is a good fit for Skeleton-of-Thought's parallel expansion?
- A proof whose next step must use the previous step's newly derived result
- A single fixed one-word output with no expansion
- A procedure that requires each section to wait for all earlier outputs
- Several sections that can be developed largely independently
- What extra work should a Skeleton-of-Thought latency comparison include?
- Only the longest point while ignoring every other stage
- Generating the outline, coordinating point expansion, and assembling the final response
- Mandatory full model retraining for every answer
- A guarantee that overhead is always exactly the same fixed duration
- How can local batched Skeleton-of-Thought decoding expand multiple points?
- Generate every token of every paragraph in one complete forward pass
- Retrain a new model for each heading
- Advance the point sequences together across repeated decoding steps
- Remove autoregressive dependencies within every point automatically
- If Skeleton-of-Thought reduces answer latency, what other assessment remains necessary before adopting the workflow?
- Treat the speedup as proof that all factual claims are correct
- Measure only the spelling of the model's name
- Assume outline ordering guarantees that every section agrees
- Check whether the assembled response remains coherent and meets answer-quality requirements
- After concurrent point expansion, how should Skeleton-of-Thought outputs be assembled into the answer?
- Associate expansions with their skeleton points and combine them in the intended outline order
- Shuffle the sections randomly regardless of their headings
- Treat the first finished point as the entire answer
- Discard the outline and keep only token counts