Kuiz berkaitan panduan · Sederhana Tahap
Kuiz Ketua Penyahkodan Medusa
Semak kepala ramalan berbilang token Medusa, pokok calon, pengesahan perhatian pokok, penerimaan awalan terpanjang dan pemeliharaan pengedaran.
soalan 1 daripada 8
Apakah yang diramalkan oleh ketua Medusa tambahan?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah yang diramalkan oleh ketua Medusa tambahan?
- Berbilang token masa hadapan pada kedudukan yang berbeza di hadapan
- Kehilangan latihan model
- GPU mana yang hendak digunakan
- Kapsyen imej untuk token
- Di bawah konfigurasi Medusa manakah kertas itu menerangkan pecutan inferens tanpa kerugian?
- Ia memampatkan berat model dengan sempurna
- Medusa-1 with a frozen backbone and exact verification against the original model
- Ia tidak pernah membuat kesilapan dalam tatabahasa
- Ia menghilangkan keperluan untuk perbendaharaan kata
- Apakah struktur kesinambungan calon Medusa disusun untuk pengesahan?
- Senarai rata dijaringkan satu demi satu
- Jadual hash
- Sebatang pokok menjaringkan gol dalam satu hantaran dengan topeng perhatian pokok
- Gelung berulang pada setiap token
- Apakah kelebihan utama Medusa berbanding penyahkodan spekulatif model draf?
- Ia memerlukan dua model besar yang berasingan
- Ia hanya berfungsi pada imej
- Ia memadam model asas selepas digunakan
- Ia mengelak daripada memerlukan model draf yang berasingan dengan menambahkan kepala kepada model sedia ada
- Secara kasar apakah kelajuan yang biasanya dilaporkan oleh Medusa?
- Lebih kurang 2-3x
- Kira-kira 0.5x (lebih perlahan)
- Tepat 100x
- Tiada perubahan yang boleh diukur
- Apakah setiap kepala Medusa individu, dari segi seni bina?
- Sebuah pengubah pendua penuh
- Lapisan kecil suapan ke hadapan (MLP) sisa di atas keadaan tersembunyi asas
- Pengekod imej konvolusi
- Tokenizer yang berasingan
- What does Medusa accept from a verified candidate tree?
- Every speculative branch regardless of verification
- Only the shortest candidate token
- The longest prefix consistent with the base model’s decoding result
- A random leaf from the tree
- How do Medusa’s prediction-head offsets differ?
- Every head predicts the same next token
- Each head predicts a different vocabulary
- The heads predict tokens only after decoding is complete
- Each head predicts a token at a different position ahead in the sequence