EAGLE ক্যুইজ সহ অনুমানমূলক ডিকোডিং

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. অনুমানমূলক ডিকোডিং এর পিছনে মূল ধারণা কি?
   • একটি সস্তা ড্রাফটার একাধিক টোকেন প্রস্তাব করে যা বড় মডেল একটি সমান্তরাল পাসে যাচাই করে
   • মডেলের ওজনকে অর্ধেক নির্ভুলতায় কম্প্রেস করা
   • এলোমেলোভাবে নেটওয়ার্কের স্তরগুলি এড়িয়ে যাওয়া৷
   • আগাম প্রতিটি সম্ভাব্য আউটপুট বাক্য ক্যাশিং
2. পূর্বের অনুমানমূলক ডিকোডিং পদ্ধতির থেকে EAGLE কীভাবে আলাদা?
   • এটি যাচাইকরণের ধাপটি সম্পূর্ণভাবে সরিয়ে দেয়
   • এটি সরাসরি টোকেন স্তরে না হয়ে মডেলের লুকানো বৈশিষ্ট্যের জায়গায় খসড়া তৈরি করে৷
   • এটি ড্রাফটার হিসাবে একটি সম্পূর্ণ আলাদা, বড় মডেল ব্যবহার করে
   • এটি শুধুমাত্র ইমেজ জেনারেশনের জন্য কাজ করে
3. Why is speculative decoding considered lossless when implemented with exact verification?
   • Every draft token is accepted unconditionally
   • The drafter always predicts the target’s next token
   • The acceptance and correction procedure preserves the target model’s output distribution
   • The target model is never evaluated
4. EAGLE এর ফিচার ড্রাফটিংয়ে কোন সমস্যা আগের টোকেনের এমবেডিং ফিড ব্যাক করে সমাধান করতে সাহায্য করে?
   • GPU-তে মেমরি ফ্র্যাগমেন্টেশন
   • টোকেনাইজার ভাষার মধ্যে অমিল
   • হার্ডওয়্যার অতিরিক্ত গরম করা
   • পরবর্তী বৈশিষ্ট্যের পূর্বাভাস দেওয়ার অনিশ্চয়তা/অস্পষ্টতা
5. EAGLE-2 আসল EAGLE এর সাথে কী যোগ করেছে?
   • একটি ডায়নামিক ড্রাফ্ট ট্রি যা কতজন প্রার্থীকে প্রস্তাব করতে হবে তা মানিয়ে নেয়
   • একটি নির্দিষ্ট একক-টোকেন খসড়া
   • LM মাথা অপসারণ
   • শুধুমাত্র দ্বিগুণ ডেটার উপর প্রশিক্ষণ
6. কেন অটোরিগ্রেসিভ বটলনেক প্লেইন এলএলএম জেনারেশনকে ধীর করে তোলে?
   • মডেল প্রতিটি টোকেন পরে নিজেকে retrains
   • প্রতিটি নতুন টোকেন পরেরটি শুরু করার আগে বিলিয়ন প্যারামিটারের মধ্য দিয়ে একটি সম্পূর্ণ ফরওয়ার্ড পাস প্রয়োজন
   • টোকেনগুলি ধাপের মধ্যে ডিস্কে সংরক্ষণ করা হয়
   • টোকেন প্রতি GPU রিবুট করতে হবে
7. After EAGLE predicts a hidden-state feature, which component turns that feature into candidate token probabilities?
   • The tokenizer’s vocabulary file alone
   • The optimizer’s momentum buffer
   • The target model’s language-model head
   • The KV-cache allocator
8. What change does EAGLE-3 make to the original feature-drafting constraint?
   • It replaces the target model with a tokenizer
   • It disables target verification
   • It requires a separate human drafter
   • It removes a feature-prediction constraint to improve scaling