Mit dem Guide verknüpftes Quiz · Mittel Ebene

Medusa-Dekodierungsköpfe-Quiz

Sehen Sie sich Medusas Multi-Token-Vorhersageköpfe, Kandidatenbäume, Baumaufmerksamkeitsüberprüfung, Akzeptanz des längsten Präfixes und Verteilungserhaltung an.

Verwandte FührungspfadeMedusa-Dekodierungsköpfe
Frage 1 von 8

Was sagen die zusätzlichen Medusa-Köpfe voraus?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was sagen die zusätzlichen Medusa-Köpfe voraus?
    • Mehrere zukünftige Token an verschiedenen Positionen im Voraus
    • Der Trainingsverlust des Modells
    • Welche GPU verwendet werden soll
    • Die Bildunterschrift für ein Token
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Es komprimiert die Modellgewichte perfekt
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Es macht nie Fehler in der Grammatik
    • Es macht ein Vokabular überflüssig
  3. In welche Struktur sind die Fortsetzungen der Medusa-Kandidaten zur Überprüfung eingeordnet?
    • Eine flache Liste wurde einzeln bewertet
    • Eine Hash-Tabelle
    • Ein Baum wurde in einem einzigen Durchgang mit einer Baum-Aufmerksamkeitsmaske bewertet
    • Eine wiederkehrende Schleife über jedes Token
  4. Was ist ein wesentlicher Vorteil von Medusa gegenüber der spekulativen Dekodierung nach Entwurfsmodellen?
    • Es sind zwei separate große Modelle erforderlich
    • Es funktioniert nur bei Bildern
    • Es löscht das Basismodell nach der Verwendung
    • Durch das Hinzufügen von Köpfen zum vorhandenen wird die Notwendigkeit eines separaten Entwurfsmodells vermieden
  5. Welche Beschleunigung meldet Medusa normalerweise ungefähr?
    • Ungefähr 2-3x
    • Ungefähr 0,5x (langsamer)
    • Genau 100x
    • Keine messbare Veränderung
  6. Was ist architektonisch gesehen jeder einzelne Medusenkopf?
    • Ein vollständig duplizierter Transformator
    • Eine kleine verbleibende Feed-Forward-Schicht (MLP) über dem verborgenen Basiszustand
    • Ein Faltungsbild-Encoder
    • Ein separater Tokenizer
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence