गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर

सट्टा नमूनाकरण सत्यापन प्रश्नोत्तरी

सटीक सट्टा नमूनाकरण, स्वीकृति और सुधार संभावनाओं, ड्राफ्ट लागत और इसके प्रदर्शन के दावों पर बाधाओं का परीक्षण करता है।

संबंधित मार्गदर्शक पथसट्टा नमूनाकरण सत्यापन
प्रश्न 1 का 8

सट्टा नमूनाकरण के पीछे मूल विचार क्या है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. सट्टा नमूनाकरण के पीछे मूल विचार क्या है?
    • एकाधिक टोकन प्रस्तावित करने के लिए एक छोटे ड्राफ्ट मॉडल का उपयोग करें जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है
    • परतों को गतिशील रूप से छोड़ने के लिए एक विशाल मॉडल को प्रशिक्षित करें
    • हर संभव वाक्य को पहले से कैश कर लें
    • समय बचाने के लिए सैंपलिंग को लालची डिकोडिंग से बदलें
  2. सट्टा नमूनाकरण आउटपुट गुणवत्ता को ख़राब क्यों नहीं करता है?
    • क्योंकि ड्राफ्ट मॉडल हमेशा सही होता है
    • क्योंकि सत्यापन नियम अंतिम वितरण को शुद्ध लक्ष्य नमूने के समान बनाता है
    • क्योंकि यह केवल छोटे संकेतों पर ही काम करता है
    • क्योंकि यह दो मॉडलों के आउटपुट का औसत रखता है
  3. In exact speculative sampling, what happens when a drafted token is rejected?
    • It outputs the rejected draft token unchanged
    • It discards the entire conversation and restarts
    • The algorithm samples from a corrected residual distribution at that position
    • It permanently changes the target model
  4. Under exact speculative sampling, what is guaranteed about the output distribution?
    • It is always deterministic
    • It matches the draft model’s distribution instead
    • It is more diverse than every target-model output
    • It matches the target model’s sampling distribution
  5. What information does the target verification pass provide in exact speculative sampling?
    • Target probabilities for proposed positions, used for acceptance tests and residual resampling
    • A guarantee that no target-model computation is needed
    • Only the draft model’s next-token distribution
    • A corrected token sequence without any sampling
  6. Which description correctly distinguishes two self-speculative approaches?
    • Both use only an unrelated small draft model
    • Medusa adds prediction heads, while EAGLE uses feature-space proposals
    • Medusa is a tokenizer and EAGLE is a reward model
    • Both remove the target model from decoding
  7. The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
    • 0.2
    • 0.4
    • 0.5
    • 1.0
  8. What most limits speculative sampling’s realized speedup?
    • The color of the model’s interface
    • The target model’s name length
    • Whether the prompt contains punctuation
    • The draft-model cost and how much proposed work the target accepts