Rehber bağlantılı sınav · Orta Seviye
Medusa Kafaları Çözme Testi
Medusa'nın çok belirteçli tahmin kafalarını, aday ağaçlarını, ağaç dikkat doğrulamasını, en uzun önek kabulünü ve dağıtım korumasını inceleyin.
Soru 1 arasında 8
Fazladan Medusa başları neyi öngörüyor?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- Fazladan Medusa başları neyi öngörüyor?
- İleride farklı konumlarda birden fazla gelecek jetonu
- Modelin eğitim kaybı
- Hangi GPU'nun kullanılacağı
- Bir jeton için resim yazısı
- Under which Medusa configuration does the paper describe lossless inference acceleration?
- Model ağırlıklarını mükemmel şekilde sıkıştırır
- Medusa-1 with a frozen backbone and exact verification against the original model
- Dilbilgisinde asla hata yapmaz
- Kelime ihtiyacını ortadan kaldırır
- Medusa'nın aday devamları doğrulama için hangi yapıya göre düzenlenmiştir?
- Tek tek puanlanan düz bir liste
- Bir karma tablosu
- Ağaç dikkat maskesiyle tek geçişte gol atan bir ağaç
- Her jeton üzerinde yinelenen bir döngü
- Medusa'nın taslak model spekülatif kod çözmeye göre önemli bir avantajı nedir?
- İki ayrı büyük model gerektirir
- Yalnızca görseller üzerinde çalışır
- Kullanımdan sonra temel modeli siler
- Mevcut modele başlıklar eklenerek ayrı bir taslak modele ihtiyaç duyulmaz.
- Medusa genellikle kabaca ne kadar hızlanma bildiriyor?
- 2-3x civarı
- Yaklaşık 0,5x (daha yavaş)
- Tam olarak 100x
- Ölçülebilir bir değişiklik yok
- Her bir Medusa başı mimari açıdan nedir?
- Tam bir kopya transformatör
- Temel gizli durumun üstünde küçük bir artık ileri besleme (MLP) katmanı
- Evrişimli bir görüntü kodlayıcı
- Ayrı bir tokenizer
- What does Medusa accept from a verified candidate tree?
- Every speculative branch regardless of verification
- Only the shortest candidate token
- The longest prefix consistent with the base model’s decoding result
- A random leaf from the tree
- How do Medusa’s prediction-head offsets differ?
- Every head predicts the same next token
- Each head predicts a different vocabulary
- The heads predict tokens only after decoding is complete
- Each head predicts a token at a different position ahead in the sequence