แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

แบบทดสอบการตรวจสอบการสุ่มตัวอย่างแบบเก็งกำไร

ทดสอบการสุ่มตัวอย่างแบบเก็งกำไร การยอมรับและการแก้ไข ความน่าจะเป็น ต้นทุนฉบับร่าง และข้อจำกัดในการอ้างประสิทธิภาพ

เส้นทางแนะนำที่เกี่ยวข้องการตรวจสอบการสุ่มตัวอย่างแบบเก็งกำไร
คำถาม 1 ของ 8

แนวคิดหลักเบื้องหลังการสุ่มตัวอย่างแบบเก็งกำไรคืออะไร

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. แนวคิดหลักเบื้องหลังการสุ่มตัวอย่างแบบเก็งกำไรคืออะไร
    • ใช้โมเดลร่างขนาดเล็กเพื่อเสนอโทเค็นหลายรายการซึ่งโมเดลขนาดใหญ่ตรวจสอบพร้อมกัน
    • ฝึกโมเดลยักษ์ตัวหนึ่งเพื่อข้ามเลเยอร์แบบไดนามิก
    • แคชทุกประโยคที่เป็นไปได้ล่วงหน้า
    • แทนที่การสุ่มตัวอย่างด้วยการถอดรหัสแบบละโมบเพื่อประหยัดเวลา
  2. เหตุใดการสุ่มตัวอย่างแบบเก็งกำไรจึงไม่ลดคุณภาพเอาต์พุต
    • เพราะแบบร่างนั้นถูกต้องเสมอ
    • เนื่องจากกฎการตรวจสอบทำให้การกระจายขั้นสุดท้ายเหมือนกันกับการสุ่มตัวอย่างเป้าหมายล้วนๆ
    • เพราะมันใช้งานได้กับข้อความแจ้งสั้น ๆ เท่านั้น
    • เพราะมันเฉลี่ยเอาท์พุตของทั้งสองรุ่น
  3. In exact speculative sampling, what happens when a drafted token is rejected?
    • It outputs the rejected draft token unchanged
    • It discards the entire conversation and restarts
    • The algorithm samples from a corrected residual distribution at that position
    • It permanently changes the target model
  4. Under exact speculative sampling, what is guaranteed about the output distribution?
    • It is always deterministic
    • It matches the draft model’s distribution instead
    • It is more diverse than every target-model output
    • It matches the target model’s sampling distribution
  5. What information does the target verification pass provide in exact speculative sampling?
    • Target probabilities for proposed positions, used for acceptance tests and residual resampling
    • A guarantee that no target-model computation is needed
    • Only the draft model’s next-token distribution
    • A corrected token sequence without any sampling
  6. Which description correctly distinguishes two self-speculative approaches?
    • Both use only an unrelated small draft model
    • Medusa adds prediction heads, while EAGLE uses feature-space proposals
    • Medusa is a tokenizer and EAGLE is a reward model
    • Both remove the target model from decoding
  7. The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
    • 0.2
    • 0.4
    • 0.5
    • 1.0
  8. What most limits speculative sampling’s realized speedup?
    • The color of the model’s interface
    • The target model’s name length
    • Whether the prompt contains punctuation
    • The draft-model cost and how much proposed work the target accepts