গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
মেডুসা ডিকোডিং হেডস কুইজ
মেডুসার মাল্টি-টোকেন ভবিষ্যদ্বাণী প্রধান, প্রার্থী গাছ, গাছ-মনোযোগ যাচাইকরণ, দীর্ঘতম-প্রিফিক্স গ্রহণযোগ্যতা এবং বিতরণ সংরক্ষণ পর্যালোচনা করুন।
প্রশ্ন 1 এর 8
অতিরিক্ত মেডুসার মাথা কী ভবিষ্যদ্বাণী করে?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- অতিরিক্ত মেডুসার মাথা কী ভবিষ্যদ্বাণী করে?
- সামনে বিভিন্ন অবস্থানে একাধিক ভবিষ্যতের টোকেন
- মডেলের প্রশিক্ষণ ক্ষতি
- কোন জিপিইউ ব্যবহার করবেন
- একটি টোকেনের জন্য ছবির ক্যাপশন
- Under which Medusa configuration does the paper describe lossless inference acceleration?
- এটি মডেলের ওজনকে পুরোপুরি সংকুচিত করে
- Medusa-1 with a frozen backbone and exact verification against the original model
- এটি ব্যাকরণে কখনও ভুল করে না
- এটি একটি শব্দভান্ডারের প্রয়োজনীয়তা দূর করে
- মেডুসার প্রার্থীর ধারাবাহিকতা যাচাইয়ের জন্য কোন কাঠামোতে সাজানো হয়েছে?
- একটি ফ্ল্যাট তালিকা একে একে স্কোর করেছে
- একটি হ্যাশ টেবিল
- একটি গাছ একটি গাছ মনোযোগ মুখোশ সঙ্গে একটি একক পাসে স্কোর
- প্রতিটি টোকেনের উপর একটি পুনরাবৃত্ত লুপ
- খসড়া-মডেল অনুমানমূলক ডিকোডিংয়ের উপর মেডুসার একটি মূল সুবিধা কী?
- এটি দুটি পৃথক বড় মডেল প্রয়োজন
- এটা শুধুমাত্র ইমেজ উপর কাজ করে
- এটি ব্যবহারের পরে বেস মডেল মুছে দেয়
- এটি বিদ্যমান একটিতে হেড যুক্ত করে একটি পৃথক খসড়া মডেলের প্রয়োজন এড়ায়
- মোটামুটিভাবে মেডুসা সাধারণত কি গতির রিপোর্ট করে?
- প্রায় 2-3x
- প্রায় 0.5x (ধীরে)
- ঠিক 100x
- পরিমাপযোগ্য পরিবর্তন নেই
- প্রতিটি পৃথক মেডুসার মাথা কি, স্থাপত্যগতভাবে?
- একটি সম্পূর্ণ ডুপ্লিকেট ট্রান্সফরমার
- বেস লুকানো অবস্থার উপরে একটি ছোট অবশিষ্ট ফিড-ফরোয়ার্ড (MLP) স্তর
- একটি বিবর্তনীয় ইমেজ এনকোডার
- একটি পৃথক টোকেনাইজার
- What does Medusa accept from a verified candidate tree?
- Every speculative branch regardless of verification
- Only the shortest candidate token
- The longest prefix consistent with the base model’s decoding result
- A random leaf from the tree
- How do Medusa’s prediction-head offsets differ?
- Every head predicts the same next token
- Each head predicts a different vocabulary
- The heads predict tokens only after decoding is complete
- Each head predicts a token at a different position ahead in the sequence