गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर
सट्टा नमूनाकरण सत्यापन प्रश्नोत्तरी
सटीक सट्टा नमूनाकरण, स्वीकृति और सुधार संभावनाओं, ड्राफ्ट लागत और इसके प्रदर्शन के दावों पर बाधाओं का परीक्षण करता है।
प्रश्न 1 का 8
सट्टा नमूनाकरण के पीछे मूल विचार क्या है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- सट्टा नमूनाकरण के पीछे मूल विचार क्या है?
- एकाधिक टोकन प्रस्तावित करने के लिए एक छोटे ड्राफ्ट मॉडल का उपयोग करें जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है
- परतों को गतिशील रूप से छोड़ने के लिए एक विशाल मॉडल को प्रशिक्षित करें
- हर संभव वाक्य को पहले से कैश कर लें
- समय बचाने के लिए सैंपलिंग को लालची डिकोडिंग से बदलें
- सट्टा नमूनाकरण आउटपुट गुणवत्ता को ख़राब क्यों नहीं करता है?
- क्योंकि ड्राफ्ट मॉडल हमेशा सही होता है
- क्योंकि सत्यापन नियम अंतिम वितरण को शुद्ध लक्ष्य नमूने के समान बनाता है
- क्योंकि यह केवल छोटे संकेतों पर ही काम करता है
- क्योंकि यह दो मॉडलों के आउटपुट का औसत रखता है
- In exact speculative sampling, what happens when a drafted token is rejected?
- It outputs the rejected draft token unchanged
- It discards the entire conversation and restarts
- The algorithm samples from a corrected residual distribution at that position
- It permanently changes the target model
- Under exact speculative sampling, what is guaranteed about the output distribution?
- It is always deterministic
- It matches the draft model’s distribution instead
- It is more diverse than every target-model output
- It matches the target model’s sampling distribution
- What information does the target verification pass provide in exact speculative sampling?
- Target probabilities for proposed positions, used for acceptance tests and residual resampling
- A guarantee that no target-model computation is needed
- Only the draft model’s next-token distribution
- A corrected token sequence without any sampling
- Which description correctly distinguishes two self-speculative approaches?
- Both use only an unrelated small draft model
- Medusa adds prediction heads, while EAGLE uses feature-space proposals
- Medusa is a tokenizer and EAGLE is a reward model
- Both remove the target model from decoding
- The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
- 0.2
- 0.4
- 0.5
- 1.0
- What most limits speculative sampling’s realized speedup?
- The color of the model’s interface
- The target model’s name length
- Whether the prompt contains punctuation
- The draft-model cost and how much proposed work the target accepts