Quiz połączony z przewodnikiem · Średni Poziom

Quiz dotyczący dekodowania głów Meduzy

Przejrzyj wielotokenowe głowice predykcyjne Meduzy, drzewa kandydatów, weryfikację drzewa uwagi, akceptację najdłuższego prefiksu i zachowanie dystrybucji.

Powiązane ścieżki prowadząceGłowice dekodujące Meduzy
Pytanie 1 z 8

Co przewidują dodatkowe głowy Meduzy?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Co przewidują dodatkowe głowy Meduzy?
    • Wiele przyszłych tokenów na różnych pozycjach do przodu
    • Strata treningowa modela
    • Którego procesora graficznego użyć
    • Podpis obrazu tokenu
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Doskonale kompresuje ciężar modelu
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Nigdy nie popełnia błędów gramatycznych
    • Eliminuje to potrzebę stosowania słownictwa
  3. W jaką strukturę ułożone są kontynuacje kandydatów Meduzy w celu weryfikacji?
    • Płaska lista punktowana jeden po drugim
    • Tabela mieszająca
    • Drzewo zdobyło punkty w jednym przejściu za pomocą maski uwagi drzewa
    • Powtarzająca się pętla nad każdym tokenem
  4. Jaka jest kluczowa przewaga Meduzy nad dekodowaniem spekulatywnym w modelu roboczym?
    • Wymaga dwóch oddzielnych dużych modeli
    • Działa tylko na obrazach
    • Usuwa model podstawowy po użyciu
    • Pozwala to uniknąć konieczności tworzenia osobnego modelu roboczego poprzez dodanie głowic do istniejącego
  5. Z grubsza jakie przyspieszenie zwykle zgłasza Medusa?
    • Około 2-3x
    • Około 0,5x (wolniej)
    • Dokładnie 100x
    • Brak mierzalnych zmian
  6. Jaka jest architektonicznie każda głowa Meduzy?
    • Pełny zduplikowany transformator
    • Niewielka warstwa resztkowego sprzężenia zwrotnego (MLP) na wierzchu podstawowego stanu ukrytego
    • Splotowy koder obrazu
    • Oddzielny tokenizer
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence