گائیڈ سے منسلک کوئز · مشکل سطح
قیاس آرائی پر مبنی نمونے کی تصدیق کا کوئز
درست قیاس آرائی پر مبنی نمونے، قبولیت اور تصحیح کے امکانات، مسودے کی لاگت، اور اس کی کارکردگی کے دعووں میں رکاوٹوں کی جانچ کرتا ہے۔
سوال 1 کی 8
قیاس آرائی کے نمونے لینے کے پیچھے بنیادی خیال کیا ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- قیاس آرائی کے نمونے لینے کے پیچھے بنیادی خیال کیا ہے؟
- متعدد ٹوکن تجویز کرنے کے لیے ایک چھوٹا ڈرافٹ ماڈل استعمال کریں جن کی متوازی طور پر ایک بڑا ماڈل تصدیق کرتا ہے۔
- پرتوں کو متحرک طور پر چھوڑنے کے لیے ایک بڑے ماڈل کو تربیت دیں۔
- ہر ممکن جملہ کو پہلے سے کیش کریں۔
- وقت بچانے کے لیے سیمپلنگ کو لالچی ڈی کوڈنگ سے تبدیل کریں۔
- قیاس آرائی پر مبنی نمونے لینے سے آؤٹ پٹ کے معیار کو کیوں نہیں خراب ہوتا ہے؟
- کیونکہ ڈرافٹ ماڈل ہمیشہ درست ہوتا ہے۔
- کیونکہ توثیقی اصول حتمی تقسیم کو خالص ہدف کے نمونے کی طرح بناتا ہے۔
- کیونکہ یہ صرف مختصر اشارے پر کام کرتا ہے۔
- کیونکہ یہ دو ماڈلز کے آؤٹ پٹ کو اوسط کرتا ہے۔
- In exact speculative sampling, what happens when a drafted token is rejected?
- It outputs the rejected draft token unchanged
- It discards the entire conversation and restarts
- The algorithm samples from a corrected residual distribution at that position
- It permanently changes the target model
- Under exact speculative sampling, what is guaranteed about the output distribution?
- It is always deterministic
- It matches the draft model’s distribution instead
- It is more diverse than every target-model output
- It matches the target model’s sampling distribution
- What information does the target verification pass provide in exact speculative sampling?
- Target probabilities for proposed positions, used for acceptance tests and residual resampling
- A guarantee that no target-model computation is needed
- Only the draft model’s next-token distribution
- A corrected token sequence without any sampling
- Which description correctly distinguishes two self-speculative approaches?
- Both use only an unrelated small draft model
- Medusa adds prediction heads, while EAGLE uses feature-space proposals
- Medusa is a tokenizer and EAGLE is a reward model
- Both remove the target model from decoding
- The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
- 0.2
- 0.4
- 0.5
- 1.0
- What most limits speculative sampling’s realized speedup?
- The color of the model’s interface
- The target model’s name length
- Whether the prompt contains punctuation
- The draft-model cost and how much proposed work the target accepts