Kuis terkait panduan · Sedang Tingkat

Kuis Kepala Decoding Medusa

Tinjau kepala prediksi multi-token Medusa, pohon kandidat, verifikasi perhatian pohon, penerimaan awalan terpanjang, dan pelestarian distribusi.

Jalur panduan terkaitKepala Penguraian Medusa
Pertanyaan 1 dari 8

Apa yang diprediksi oleh kepala Medusa tambahan?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Apa yang diprediksi oleh kepala Medusa tambahan?
    • Beberapa token masa depan di posisi berbeda di depan
    • Kehilangan pelatihan model
    • GPU mana yang akan digunakan
    • Keterangan gambar untuk token
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • Ini memampatkan bobot model dengan sempurna
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • Itu tidak pernah membuat kesalahan dalam tata bahasa
    • Ini menghilangkan kebutuhan akan kosakata
  3. Dalam struktur apa kelanjutan kandidat Medusa disusun untuk verifikasi?
    • Daftar datar diberi skor satu per satu
    • Tabel hash
    • Sebuah pohon mencetak gol dalam satu operan dengan topeng perhatian pohon
    • Perulangan berulang pada setiap token
  4. Apa keunggulan utama Medusa dibandingkan decoding spekulatif model draf?
    • Hal ini memerlukan dua model besar yang terpisah
    • Ini hanya berfungsi pada gambar
    • Ini menghapus model dasar setelah digunakan
    • Hal ini menghindari perlunya rancangan model terpisah dengan menambahkan kepala ke model yang sudah ada
  5. Kira-kira berapa kecepatan yang biasanya dilaporkan oleh Medusa?
    • Sekitar 2-3x
    • Sekitar 0,5x (lebih lambat)
    • Tepat 100x
    • Tidak ada perubahan yang terukur
  6. Apa arsitektur masing-masing kepala Medusa?
    • Trafo duplikat penuh
    • Lapisan kecil sisa umpan maju (MLP) di atas keadaan dasar yang tersembunyi
    • Encoder gambar konvolusional
    • Tokenizer terpisah
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence