Вікторина, пов’язана з посібником · Середній Рівень
Вікторина з паралельного декодування скелета думки
Перевірте контури скелета думки, незалежне розгортання точок, пакетне декодування, накладні витрати, авторегресію по точках і збірку остаточної відповіді.
Питання 1 з 8
Що дає перша стадія Skeleton-of-Thought?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Що дає перша стадія Skeleton-of-Thought?
- Повна остаточна відповідь
- Допрацьована модель КПП
- Короткий скелет заголовків пунктів
- Набір навчальних етикеток
- Чому етап розширення точки може виконуватися паралельно?
- Бо кожен пункт залежить від попереднього
- Оскільки точки багато в чому не залежать одна від одної
- Тому що модель перенавчена на паралелізм
- Оскільки токени генеруються в зворотному порядку
- Що є основним вузьким місцем SoT у звичайному декодуванні LLM?
- Послідовна затримка маркера за маркером
- Швидкість читання диска
- Розмір словника Tokenizer
- Пропускна здатність мережі для користувача
- Which answer structure is a good fit for Skeleton-of-Thought's parallel expansion?
- A proof whose next step must use the previous step's newly derived result
- A single fixed one-word output with no expansion
- A procedure that requires each section to wait for all earlier outputs
- Several sections that can be developed largely independently
- What extra work should a Skeleton-of-Thought latency comparison include?
- Only the longest point while ignoring every other stage
- Generating the outline, coordinating point expansion, and assembling the final response
- Mandatory full model retraining for every answer
- A guarantee that overhead is always exactly the same fixed duration
- How can local batched Skeleton-of-Thought decoding expand multiple points?
- Generate every token of every paragraph in one complete forward pass
- Retrain a new model for each heading
- Advance the point sequences together across repeated decoding steps
- Remove autoregressive dependencies within every point automatically
- If Skeleton-of-Thought reduces answer latency, what other assessment remains necessary before adopting the workflow?
- Treat the speedup as proof that all factual claims are correct
- Measure only the spelling of the model's name
- Assume outline ordering guarantees that every section agrees
- Check whether the assembled response remains coherent and meets answer-quality requirements
- After concurrent point expansion, how should Skeleton-of-Thought outputs be assembled into the answer?
- Associate expansions with their skeleton points and combine them in the intended outline order
- Shuffle the sections randomly regardless of their headings
- Treat the first finished point as the entire answer
- Discard the outline and keep only token counts