แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ
แบบทดสอบการตรวจสอบการสุ่มตัวอย่างแบบเก็งกำไร
ทดสอบการสุ่มตัวอย่างแบบเก็งกำไร การยอมรับและการแก้ไข ความน่าจะเป็น ต้นทุนฉบับร่าง และข้อจำกัดในการอ้างประสิทธิภาพ
คำถาม 1 ของ 8
แนวคิดหลักเบื้องหลังการสุ่มตัวอย่างแบบเก็งกำไรคืออะไร
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- แนวคิดหลักเบื้องหลังการสุ่มตัวอย่างแบบเก็งกำไรคืออะไร
- ใช้โมเดลร่างขนาดเล็กเพื่อเสนอโทเค็นหลายรายการซึ่งโมเดลขนาดใหญ่ตรวจสอบพร้อมกัน
- ฝึกโมเดลยักษ์ตัวหนึ่งเพื่อข้ามเลเยอร์แบบไดนามิก
- แคชทุกประโยคที่เป็นไปได้ล่วงหน้า
- แทนที่การสุ่มตัวอย่างด้วยการถอดรหัสแบบละโมบเพื่อประหยัดเวลา
- เหตุใดการสุ่มตัวอย่างแบบเก็งกำไรจึงไม่ลดคุณภาพเอาต์พุต
- เพราะแบบร่างนั้นถูกต้องเสมอ
- เนื่องจากกฎการตรวจสอบทำให้การกระจายขั้นสุดท้ายเหมือนกันกับการสุ่มตัวอย่างเป้าหมายล้วนๆ
- เพราะมันใช้งานได้กับข้อความแจ้งสั้น ๆ เท่านั้น
- เพราะมันเฉลี่ยเอาท์พุตของทั้งสองรุ่น
- In exact speculative sampling, what happens when a drafted token is rejected?
- It outputs the rejected draft token unchanged
- It discards the entire conversation and restarts
- The algorithm samples from a corrected residual distribution at that position
- It permanently changes the target model
- Under exact speculative sampling, what is guaranteed about the output distribution?
- It is always deterministic
- It matches the draft model’s distribution instead
- It is more diverse than every target-model output
- It matches the target model’s sampling distribution
- What information does the target verification pass provide in exact speculative sampling?
- Target probabilities for proposed positions, used for acceptance tests and residual resampling
- A guarantee that no target-model computation is needed
- Only the draft model’s next-token distribution
- A corrected token sequence without any sampling
- Which description correctly distinguishes two self-speculative approaches?
- Both use only an unrelated small draft model
- Medusa adds prediction heads, while EAGLE uses feature-space proposals
- Medusa is a tokenizer and EAGLE is a reward model
- Both remove the target model from decoding
- The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
- 0.2
- 0.4
- 0.5
- 1.0
- What most limits speculative sampling’s realized speedup?
- The color of the model’s interface
- The target model’s name length
- Whether the prompt contains punctuation
- The draft-model cost and how much proposed work the target accepts