Questionário de cabeças de decodificação da Medusa

As respostas e explicações aparecem conforme você responde ao teste.

1. O que as cabeças extras da Medusa prevêem?
   • Vários tokens futuros em diferentes posições à frente
   • A perda de treinamento do modelo
   • Qual GPU usar
   • A legenda da imagem para um token
2. Under which Medusa configuration does the paper describe lossless inference acceleration?
   • Comprime perfeitamente os pesos do modelo
   • Medusa-1 with a frozen backbone and exact verification against the original model
   • Nunca comete erros de gramática
   • Elimina a necessidade de um vocabulário
3. Em que estrutura as continuações candidatas da Medusa são organizadas para verificação?
   • Uma lista simples pontuada um por um
   • Uma tabela hash
   • Uma árvore pontuada em uma única passagem com uma máscara de atenção de árvore
   • Um loop recorrente sobre cada token
4. Qual é a principal vantagem da Medusa em relação à decodificação especulativa do modelo preliminar?
   • Requer dois grandes modelos separados
   • Só funciona em imagens
   • Exclui o modelo base após o uso
   • Evita a necessidade de um modelo de rascunho separado, adicionando cabeçotes ao modelo existente
5. Aproximadamente que aceleração a Medusa normalmente relata?
   • Cerca de 2-3x
   • Cerca de 0,5x (mais lento)
   • Exatamente 100x
   • Nenhuma mudança mensurável
6. O que é cada cabeça individual da Medusa, arquitetonicamente?
   • Um transformador duplicado completo
   • Uma pequena camada residual feed-forward (MLP) no topo do estado oculto base
   • Um codificador de imagem convolucional
   • Um tokenizador separado
7. What does Medusa accept from a verified candidate tree?
   • Every speculative branch regardless of verification
   • Only the shortest candidate token
   • The longest prefix consistent with the base model’s decoding result
   • A random leaf from the tree
8. How do Medusa’s prediction-head offsets differ?
   • Every head predicts the same next token
   • Each head predicts a different vocabulary
   • The heads predict tokens only after decoding is complete
   • Each head predicts a token at a different position ahead in the sequence