Спекулативно декодиране с EAGLE Quiz

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. Каква е основната идея зад спекулативното декодиране?
   • Евтин проектант предлага множество токени, които големият модел проверява в едно паралелно преминаване
   • Компресиране на тежестите на модела до половин точност
   • Произволно пропускане на слоеве от мрежата
   • Кеширане на всяко възможно изходно изречение предварително
2. Как EAGLE се различава от по-ранните подходи за спекулативно декодиране?
   • Той премахва изцяло стъпката за проверка
   • Той чертае в пространството на скритите функции на модела, а не директно на ниво токен
   • Той използва напълно отделен, по-голям модел като чертач
   • Работи само за генериране на изображения
3. Why is speculative decoding considered lossless when implemented with exact verification?
   • Every draft token is accepted unconditionally
   • The drafter always predicts the target’s next token
   • The acceptance and correction procedure preserves the target model’s output distribution
   • The target model is never evaluated
4. Какъв проблем при чертането на характеристиките на EAGLE помага да се реши връщането на обратно вграждането на предишния токен?
   • Фрагментация на паметта на GPU
   • Несъответствие на токенизатора между езиците
   • Прегряване на хардуера
   • Несигурността/двусмислието при прогнозиране на следващата характеристика
5. Какво добави EAGLE-2 към оригиналния EAGLE?
   • Динамично черново дърво, което адаптира колко кандидати да предложи
   • Фиксирана чернова с един жетон
   • Отстраняване на главата LM
   • Обучение само с два пъти повече данни
6. Защо авторегресивното тясно място прави обикновеното LLM генериране бавно?
   • Моделът се обучава отново след всеки жетон
   • Всеки нов токен се нуждае от пълно преминаване напред през милиарди параметри, преди следващият да може да започне
   • Токените се съхраняват на диск между стъпките
   • Графичният процесор трябва да се рестартира за токен
7. After EAGLE predicts a hidden-state feature, which component turns that feature into candidate token probabilities?
   • The tokenizer’s vocabulary file alone
   • The optimizer’s momentum buffer
   • The target model’s language-model head
   • The KV-cache allocator
8. What change does EAGLE-3 make to the original feature-drafting constraint?
   • It replaces the target model with a tokenizer
   • It disables target verification
   • It requires a separate human drafter
   • It removes a feature-prediction constraint to improve scaling