गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
मेडुसा डिकोडिंग प्रमुख प्रश्नोत्तरी
मेडुसा के बहु-टोकन भविष्यवाणी प्रमुखों, उम्मीदवार वृक्षों, वृक्ष-ध्यान सत्यापन, सबसे लंबी-उपसर्ग स्वीकृति और वितरण संरक्षण की समीक्षा करें।
प्रश्न 1 का 8
अतिरिक्त मेडुसा प्रमुख क्या भविष्यवाणी करते हैं?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- अतिरिक्त मेडुसा प्रमुख क्या भविष्यवाणी करते हैं?
- आगे विभिन्न स्थानों पर एकाधिक भविष्य के टोकन
- मॉडल का प्रशिक्षण नुकसान
- कौन सा जीपीयू उपयोग करना है
- एक टोकन के लिए छवि कैप्शन
- Under which Medusa configuration does the paper describe lossless inference acceleration?
- यह मॉडल के वज़न को पूरी तरह से संपीड़ित करता है
- Medusa-1 with a frozen backbone and exact verification against the original model
- यह व्याकरण में कभी गलती नहीं करता
- यह शब्दावली की आवश्यकता को दूर करता है
- सत्यापन के लिए मेडुसा के उम्मीदवार की निरंतरता को किस संरचना में व्यवस्थित किया गया है?
- एक-एक करके एक फ्लैट सूची बनाई गई
- एक हैश तालिका
- ट्री अटेंशन मास्क के साथ एक पेड़ ने एक ही पास में स्कोर किया
- प्रत्येक टोकन पर एक आवर्ती लूप
- ड्राफ्ट-मॉडल सट्टा डिकोडिंग की तुलना में मेडुसा का प्रमुख लाभ क्या है?
- इसके लिए दो अलग-अलग बड़े मॉडल की आवश्यकता होती है
- यह केवल छवियों पर काम करता है
- यह उपयोग के बाद बेस मॉडल को हटा देता है
- यह मौजूदा मॉडल में शीर्ष जोड़कर एक अलग ड्राफ्ट मॉडल की आवश्यकता से बचाता है
- मेडुसा आम तौर पर किस स्पीडअप की रिपोर्ट करता है?
- लगभग 2-3x
- लगभग 0.5x (धीमा)
- बिल्कुल 100x
- कोई मापने योग्य परिवर्तन नहीं
- वास्तुकला की दृष्टि से प्रत्येक व्यक्तिगत मेडुसा प्रमुख क्या है?
- एक पूर्ण डुप्लिकेट ट्रांसफार्मर
- आधार छिपी हुई स्थिति के शीर्ष पर एक छोटी अवशिष्ट फ़ीड-फ़ॉरवर्ड (एमएलपी) परत
- एक दृढ़ छवि एनकोडर
- एक अलग टोकननाइज़र
- What does Medusa accept from a verified candidate tree?
- Every speculative branch regardless of verification
- Only the shortest candidate token
- The longest prefix consistent with the base model’s decoding result
- A random leaf from the tree
- How do Medusa’s prediction-head offsets differ?
- Every head predicts the same next token
- Each head predicts a different vocabulary
- The heads predict tokens only after decoding is complete
- Each head predicts a token at a different position ahead in the sequence