Penyahkodan Spekulatif dengan Kuiz EAGLE

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Apakah idea teras di sebalik penyahkodan spekulatif?
   • Penggubal murah mencadangkan berbilang token yang model besar sahkan dalam satu pas selari
   • Memampatkan berat model kepada separuh ketepatan
   • Melangkau lapisan rangkaian secara rawak
   • Caching setiap ayat keluaran yang mungkin lebih awal
2. Bagaimanakah EAGLE berbeza daripada pendekatan penyahkodan spekulatif terdahulu?
   • Ia mengalih keluar langkah pengesahan sepenuhnya
   • Ia merangka dalam ruang ciri tersembunyi model dan bukannya terus pada tahap token
   • Ia menggunakan model yang lebih besar dan berasingan sepenuhnya sebagai penggubal
   • Ia hanya berfungsi untuk penjanaan imej
3. Why is speculative decoding considered lossless when implemented with exact verification?
   • Every draft token is accepted unconditionally
   • The drafter always predicts the target’s next token
   • The acceptance and correction procedure preserves the target model’s output distribution
   • The target model is never evaluated
4. Apakah masalah dalam penggubalan ciri EAGLE yang membantu menyelesaikan pembenaman token sebelumnya?
   • Pemecahan memori pada GPU
   • Tokenizer tidak padan antara bahasa
   • Terlalu panas perkakasan
   • Ketidakpastian/kekaburan meramalkan ciri seterusnya
5. Apakah yang ditambahkan EAGLE-2 berbanding EAGLE yang asal?
   • Pepohon draf dinamik yang menyesuaikan bilangan calon untuk dicadangkan
   • Draf token tunggal tetap
   • Pembuangan kepala LM
   • Latihan pada dua kali data sahaja
6. Mengapakah kesesakan autoregresif menjadikan penjanaan LLM biasa perlahan?
   • Model melatih semula dirinya selepas setiap token
   • Setiap token baharu memerlukan laluan hadapan penuh melalui berbilion parameter sebelum token seterusnya boleh bermula
   • Token disimpan pada cakera antara langkah
   • GPU mesti but semula setiap token
7. After EAGLE predicts a hidden-state feature, which component turns that feature into candidate token probabilities?
   • The tokenizer’s vocabulary file alone
   • The optimizer’s momentum buffer
   • The target model’s language-model head
   • The KV-cache allocator
8. What change does EAGLE-3 make to the original feature-drafting constraint?
   • It replaces the target model with a tokenizer
   • It disables target verification
   • It requires a separate human drafter
   • It removes a feature-prediction constraint to improve scaling