Maswali yanayounganishwa na mwongozo · Kati Kiwango

Maswali ya Vichwa vya Usimbuaji wa Medusa

Kagua vichwa vya utabiri wa ishara nyingi za Medusa, miti ya wagombea, uthibitishaji wa kuzingatia mti, ukubalifu wa kiambishi kirefu zaidi, na uhifadhi wa usambazaji.

Njia za mwongozo zinazohusianaVichwa vya kusimbua vya Medusa
Swali 1 ya 8

Vichwa vya ziada vya Medusa vinatabiri nini?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Vichwa vya ziada vya Medusa vinatabiri nini?
    • Tokeni nyingi za siku zijazo katika nafasi tofauti mbele
    • Upotezaji wa mafunzo ya mfano
    • GPU ipi ya kutumia
    • Manukuu ya picha kwa ishara
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Inabana uzito wa mfano kikamilifu
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Haifanyi makosa katika sarufi
    • Huondoa hitaji la msamiati
  3. Je, mwendelezo wa mgombeaji wa Medusa umepangwa katika muundo gani ili kuthibitishwa?
    • Orodha tambarare ilifunga moja baada ya nyingine
    • Jedwali la hashi
    • Mti ulifunga kwa pasi moja ukiwa na kinyago cha umakini wa mti
    • Kitanzi kinachojirudia juu ya kila ishara
  4. Ni faida gani kuu ya Medusa juu ya utunzi wa kubahatisha wa modeli?
    • Inahitaji mifano miwili tofauti kubwa
    • Inafanya kazi kwenye picha tu
    • Inafuta mfano wa msingi baada ya matumizi
    • Huepuka kuhitaji muundo tofauti wa rasimu kwa kuongeza vichwa kwa uliopo
  5. Takriban ni kasi gani ambayo Medusa kawaida huripoti?
    • Karibu 2-3x
    • Takriban 0.5x (polepole)
    • 100x kabisa
    • Hakuna mabadiliko yanayoweza kupimika
  6. Kila kichwa cha mtu binafsi cha Medusa ni nini, kwa usanifu?
    • Kibadilishaji kamili cha nakala
    • Safu ndogo ya mabaki ya usambazaji wa mbele (MLP) juu ya hali ya msingi iliyofichwa
    • Kisimbaji picha cha kubadilisha
    • Tokenizer tofauti
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence