Тест, свързан с ръководство · Среден Ниво

Тест за декодиране на глави на Medusa

Прегледайте главите за предсказване на много токени на Medusa, дърветата кандидати, проверката на вниманието на дървото, приемането на най-дългия префикс и запазването на разпространението.

Свързани ръководни пътекиГлави за декодиране на Medusa
Въпрос 1 на 8

Какво предсказват допълнителните глави на Медуза?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво предсказват допълнителните глави на Медуза?
    • Множество бъдещи токени на различни позиции напред
    • Загуба на обучение на модела
    • Кой GPU да използвам
    • Надписът на изображението за токен
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Компресира идеално тежестите на модела
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Никога не прави грешки в граматиката
    • Премахва необходимостта от речник
  3. В каква структура са подредени кандидат-продълженията на Medusa за проверка?
    • Плосък списък, отбелязан един по един
    • Хеш таблица
    • Дърво, отбелязано с едно подаване с маска за внимание на дърво
    • Повтарящ се цикъл над всеки токен
  4. Какво е ключовото предимство на Medusa пред спекулативното декодиране на чернови модел?
    • Изисква два отделни големи модела
    • Работи само върху изображения
    • Изтрива базовия модел след употреба
    • Избягва нуждата от отделен чернови модел, като добавя глави към съществуващия
  5. Приблизително какво ускоряване обикновено отчита Medusa?
    • Около 2-3 пъти
    • Около 0,5x (по-бавно)
    • Точно 100x
    • Няма измерима промяна
  6. Каква е всяка отделна глава на Медуза, архитектурно?
    • Пълен дубликат на трансформатора
    • Малък остатъчен слой за предаване напред (MLP) върху основното скрито състояние
    • Конволюционен енкодер на изображения
    • Отделен токенизатор
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence