Вікторина, пов’язана з посібником · Середній Рівень

Тест «Розшифровка голови Медузи».

Ознайомтеся з заголовками передбачення з кількома маркерами, деревами-кандидатами, перевіркою уваги дерева, прийняттям найдовшого префікса та збереженням розповсюдження.

Пов'язані напрямні шляхиРозшифровка Медузи
Питання 1 з 8

Що віщують додаткові голови Медузи?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Що віщують додаткові голови Медузи?
    • Кілька майбутніх жетонів на різних позиціях попереду
    • Тренувальна втрата моделі
    • Який GPU використовувати
    • Підпис зображення для маркера
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Він ідеально стискає модельну вагу
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Він ніколи не робить помилок у граматиці
    • Це усуває потребу в словниковому запасі
  3. У яку структуру впорядковуються кандидати-продовження Медузи для перевірки?
    • Плоский список, нарахований один за одним
    • Хеш-таблиця
    • Дерево, забите за один прохід із маскою уваги дерева
    • Рекурентний цикл над кожним маркером
  4. Яка ключова перевага Medusa над умоглядним декодуванням чорнової моделі?
    • Для цього потрібні дві окремі великі моделі
    • Він працює лише на зображеннях
    • Він видаляє базову модель після використання
    • Це дозволяє уникнути потреби в окремому проекті моделі, додаючи головки до існуючої
  5. Про яке прискорення зазвичай повідомляє Медуза?
    • Приблизно в 2-3 рази
    • Близько 0,5x (повільніше)
    • Рівно в 100 разів
    • Жодних вимірних змін
  6. Що являє собою кожна окрема голова Медузи, архітектурно?
    • Повний дублікат трансформера
    • Невеликий залишковий шар передавання (MLP) поверх основного прихованого стану
    • Згортковий кодер зображень
    • Окремий токенізер
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence