Test legat de ghid · Mediu Nivel
Medusa Decoding Heads Test
Examinați capetele de predicție cu mai multe simboluri ale Medusei, arborii candidați, verificarea atenției arborelui, acceptarea celui mai lung prefix și conservarea distribuției.
Întrebare 1 de 8
Ce prezic capetele suplimentare de Medusa?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- Ce prezic capetele suplimentare de Medusa?
- Mai multe jetoane viitoare la diferite poziții înainte
- Pierderea de antrenament a modelului
- Ce GPU să folosești
- Legenda imaginii pentru un simbol
- Under which Medusa configuration does the paper describe lossless inference acceleration?
- Comprimă perfect greutățile modelului
- Medusa-1 with a frozen backbone and exact verification against the original model
- Nu face niciodată greșeli în gramatică
- Îndepărtează necesitatea unui vocabular
- În ce structură sunt aranjate continuările candidatului Medusa pentru verificare?
- O listă plată punctată unul câte unul
- O masă hash
- Un copac a marcat într-o singură trecere cu o mască de atenție a copacului
- O buclă recurentă peste fiecare jeton
- Care este un avantaj esențial al Medusa față de decodificarea speculativă a modelului de schiță?
- Este nevoie de două modele mari separate
- Funcționează doar pe imagini
- Acesta șterge modelul de bază după utilizare
- Se evită necesitatea unui model de schiță separat prin adăugarea de capete la cel existent
- Aproximativ ce accelerație raportează de obicei Medusa?
- Aproximativ 2-3x
- Aproximativ 0,5x (mai lent)
- Exact de 100x
- Nicio schimbare măsurabilă
- Ce este fiecare cap Medusa, din punct de vedere arhitectural?
- Un transformator complet duplicat
- Un mic strat rezidual feed-forward (MLP) deasupra stării ascunse de bază
- Un codificator de imagine convoluțional
- Un tokenizer separat
- What does Medusa accept from a verified candidate tree?
- Every speculative branch regardless of verification
- Only the shortest candidate token
- The longest prefix consistent with the base model’s decoding result
- A random leaf from the tree
- How do Medusa’s prediction-head offsets differ?
- Every head predicts the same next token
- Each head predicts a different vocabulary
- The heads predict tokens only after decoding is complete
- Each head predicts a token at a different position ahead in the sequence