قیاس آرائی پر مبنی ڈیکوڈنگ ڈرافٹ ماڈلز کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. قیاس آرائی پر مبنی ضابطہ کشائی میں 'ڈرافٹ' ماڈل کا بنیادی کردار کیا ہے؟
   • بڑے ماڈل کو مستقل طور پر کم پیرامیٹرز میں سکیڑنا
   • پرامپٹ کا ایک مختلف زبان میں ترجمہ کرنے کے لیے
   • تصدیق کرنے کے لیے بڑے ماڈل کے لیے تیزی سے کئی امیدوار ٹوکن تجویز کرنا
   • بازیافت کے لیے ماضی کی گفتگو کو ذخیرہ کرنے کے لیے
2. Why can verifying a drafted token block accelerate target-model generation in a suitable workload?
   • Verification has no compute cost at any block size
   • A verification pass can process several positions together and amortize target work across accepted tokens
   • The draft model is guaranteed more accurate than the target
   • The target model is skipped for every accepted token
3. ٹارگٹ ماڈل کے پہلے ٹوکن کو مسترد کرنے کے بعد مسودہ کردہ ٹوکنز کا کیا ہوتا ہے؟
   • پہلی مماثلت کے بعد سب کچھ ضائع کر دیا جاتا ہے۔
   • وہ سب ویسے بھی قبول ہیں۔
   • انہیں تیسرے ماڈل میں بھیجا جاتا ہے۔
   • انہیں کیش کیا جاتا ہے اور اگلی باری پر دوبارہ استعمال کیا جاتا ہے۔
4. What correctness property does the standard exact speculative-sampling rejection procedure preserve under its assumptions?
   • An identical random sequence for every possible random seed
   • Guaranteed truth of every generated statement
   • The draft model's distribution regardless of the target
   • The target model's configured sampling distribution
5. Which mechanism distinguishes EAGLE's drafting approach from Medusa's additional decoding heads?
   • EAGLE performs only word-count-based lexical retrieval
   • EAGLE drafts autoregressively at the target model's feature level
   • EAGLE removes target verification from every algorithm
   • EAGLE and Medusa are the same architecture with different names
6. Why should a speculative-decoding benchmark report the draft-target pair and acceptance rate?
   • Every model pair has the same guaranteed speedup
   • Acceptance rate measures whether generated facts are true
   • Speedup depends on drafting and verification costs and how many proposed tokens are accepted
   • The target model's hardware and context length cannot affect performance
7. In exact speculative sampling, a proposed token has q equal to 0.2 and p equal to 0.1. What is its acceptance probability?
   • 0.1, because only p is used
   • 0.2, because only q is used
   • 1.0, because every proposed token is accepted
   • 0.5, from min(1, p/q)
8. What can the standard speculative-sampling algorithm emit when every token in a drafted block is accepted?
   • The accepted block plus an additional token sampled from the target
   • Only the last drafted token, discarding the accepted prefix
   • An arbitrary extra draft token without target sampling
   • No output until the draft model is retrained