Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Ketua Penyahkodan Medusa

Semak kepala ramalan berbilang token Medusa, pokok calon, pengesahan perhatian pokok, penerimaan awalan terpanjang dan pemeliharaan pengedaran.

Laluan panduan yang berkaitanKepala Penyahkod Medusa
soalan 1 daripada 8

Apakah yang diramalkan oleh ketua Medusa tambahan?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah yang diramalkan oleh ketua Medusa tambahan?
    • Berbilang token masa hadapan pada kedudukan yang berbeza di hadapan
    • Kehilangan latihan model
    • GPU mana yang hendak digunakan
    • Kapsyen imej untuk token
  2. Di bawah konfigurasi Medusa manakah kertas itu menerangkan pecutan inferens tanpa kerugian?
    • Ia memampatkan berat model dengan sempurna
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Ia tidak pernah membuat kesilapan dalam tatabahasa
    • Ia menghilangkan keperluan untuk perbendaharaan kata
  3. Apakah struktur kesinambungan calon Medusa disusun untuk pengesahan?
    • Senarai rata dijaringkan satu demi satu
    • Jadual hash
    • Sebatang pokok menjaringkan gol dalam satu hantaran dengan topeng perhatian pokok
    • Gelung berulang pada setiap token
  4. Apakah kelebihan utama Medusa berbanding penyahkodan spekulatif model draf?
    • Ia memerlukan dua model besar yang berasingan
    • Ia hanya berfungsi pada imej
    • Ia memadam model asas selepas digunakan
    • Ia mengelak daripada memerlukan model draf yang berasingan dengan menambahkan kepala kepada model sedia ada
  5. Secara kasar apakah kelajuan yang biasanya dilaporkan oleh Medusa?
    • Lebih kurang 2-3x
    • Kira-kira 0.5x (lebih perlahan)
    • Tepat 100x
    • Tiada perubahan yang boleh diukur
  6. Apakah setiap kepala Medusa individu, dari segi seni bina?
    • Sebuah pengubah pendua penuh
    • Lapisan kecil suapan ke hadapan (MLP) sisa di atas keadaan tersembunyi asas
    • Pengekod imej konvolusi
    • Tokenizer yang berasingan
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence