میڈوسا ڈیکوڈنگ ہیڈز کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. میڈوسا کے اضافی سر کیا پیش گوئی کرتے ہیں؟
   • آگے کی مختلف پوزیشنوں پر مستقبل کے متعدد ٹوکن
   • ماڈل کی تربیت کا نقصان
   • کون سا GPU استعمال کرنا ہے۔
   • ٹوکن کے لیے تصویری کیپشن
2. میڈیسا کے کن کنفیگریشنز کے تحت پپر نقصان سے پاک (lossless) انفرنس اسپیڈ اپ کی وضاحت کرتا ہے؟
   • یہ ماڈل کے وزن کو بالکل کمپریس کرتا ہے۔
   • Medusa-1 with a frozen backbone and exact verification against the original model
   • یہ گرائمر میں کبھی غلطی نہیں کرتا
   • یہ الفاظ کی ضرورت کو دور کرتا ہے۔
3. میڈوسا کے امیدواروں کے تسلسل کو تصدیق کے لیے کس ڈھانچے میں ترتیب دیا گیا ہے؟
   • ایک فلیٹ لسٹ ایک ایک کرکے اسکور کی گئی۔
   • ایک ہیش ٹیبل
   • ایک درخت نے ایک ہی پاس میں ٹری توجہ کے ماسک کے ساتھ اسکور کیا۔
   • ہر ٹوکن پر ایک بار بار آنے والا لوپ
4. ڈرافٹ ماڈل قیاس آرائی پر مبنی ضابطہ کشائی پر میڈوسا کا اہم فائدہ کیا ہے؟
   • اسے دو الگ الگ بڑے ماڈلز کی ضرورت ہے۔
   • یہ صرف تصاویر پر کام کرتا ہے۔
   • یہ استعمال کے بعد بیس ماڈل کو حذف کر دیتا ہے۔
   • یہ موجودہ ماڈل میں ہیڈز جوڑ کر الگ ڈرافٹ ماڈل کی ضرورت سے گریز کرتا ہے۔
5. میڈوسا عام طور پر کس رفتار کی اطلاع دیتی ہے؟
   • تقریباً 2-3x
   • تقریباً 0.5x (آہستہ)
   • بالکل 100x
   • کوئی قابل پیمائش تبدیلی نہیں۔
6. ہر فرد میڈوسا سر کیا ہے، تعمیراتی طور پر؟
   • ایک مکمل ڈپلیکیٹ ٹرانسفارمر
   • بنیادی پوشیدہ حالت کے اوپر ایک چھوٹی بقایا فیڈ فارورڈ (MLP) پرت
   • ایک کنولوشنل امیج انکوڈر
   • ایک الگ ٹوکنائزر
7. What does Medusa accept from a verified candidate tree?
   • Every speculative branch regardless of verification
   • Only the shortest candidate token
   • The longest prefix consistent with the base model’s decoding result
   • A random leaf from the tree
8. How do Medusa’s prediction-head offsets differ?
   • Every head predicts the same next token
   • Each head predicts a different vocabulary
   • The heads predict tokens only after decoding is complete
   • Each head predicts a token at a different position ahead in the sequence