Викторина, связанная с руководством · Средний Уровень

Медуза: расшифровка голов

Просмотрите головы прогнозирования нескольких токенов Medusa, деревья-кандидаты, проверку внимания дерева, принятие самого длинного префикса и сохранение распределения.

Связанные направляющие путиДекодирующие головки Медузы
Вопрос 1 из 8

Что предсказывают дополнительные головы Медузы?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Что предсказывают дополнительные головы Медузы?
    • Впереди несколько будущих токенов на разных позициях
    • Потеря обучения модели
    • Какой графический процессор использовать
    • Подпись к изображению токена
  2. В какой конфигурации Medusa в статье описывается ускорение вывода без потерь?
    • Он идеально сжимает вес модели.
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Он никогда не делает ошибок в грамматике
    • Это устраняет необходимость в словарном запасе
  3. В какую структуру организованы кандидаты-продолжения Медузы для проверки?
    • Плоский список, засчитываемый один за другим
    • Хэш-таблица
    • Дерево, оцененное за один проход с маской внимания дерева
    • Рекуррентный цикл над каждым токеном
  4. В чем ключевое преимущество Medusa перед спекулятивным декодированием черновой модели?
    • Требуются две отдельные большие модели.
    • Работает только с изображениями
    • Удаляет базовую модель после использования.
    • Это позволяет избежать необходимости создания отдельной черновой модели за счет добавления голов к существующей.
  5. О каком примерно ускорении обычно сообщает Medusa?
    • Примерно в 2-3 раза
    • Около 0,5x (медленнее)
    • Ровно в 100 раз
    • Нет измеримых изменений
  6. Что представляет собой каждая отдельная голова Медузы с архитектурной точки зрения?
    • Полный дубликат трансформера
    • Небольшой остаточный слой прямой связи (MLP) поверх базового скрытого состояния.
    • Сверточный кодер изображений
    • Отдельный токенизатор
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence