แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบแบบจำลองการถอดรหัสแบบเก็งกำไร

สำรวจข้อเสนอแบบจำลองร่าง การตรวจสอบเป้าหมาย การสุ่มตัวอย่างการปฏิเสธ ความน่าจะเป็นในการยอมรับ โทเค็นโบนัส และความเร็วในการถอดรหัสขึ้นอยู่กับปริมาณงาน

เส้นทางแนะนำที่เกี่ยวข้องโมเดลร่างการถอดรหัสเก็งกำไร
คำถาม 1 ของ 8

บทบาทหลักของแบบจำลอง 'แบบร่าง' ในการถอดรหัสแบบเก็งกำไรคืออะไร?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. บทบาทหลักของแบบจำลอง 'แบบร่าง' ในการถอดรหัสแบบเก็งกำไรคืออะไร?
    • เพื่อบีบอัดโมเดลขนาดใหญ่ให้มีพารามิเตอร์น้อยลงอย่างถาวร
    • หากต้องการแปลข้อความแจ้งเป็นภาษาอื่น
    • เพื่อเสนอโทเค็นผู้สมัครหลายรายการอย่างรวดเร็วเพื่อให้โมเดลขนาดใหญ่ตรวจสอบ
    • เพื่อจัดเก็บการสนทนาที่ผ่านมาเพื่อเรียกค้น
  2. Why can verifying a drafted token block accelerate target-model generation in a suitable workload?
    • Verification has no compute cost at any block size
    • A verification pass can process several positions together and amortize target work across accepted tokens
    • The draft model is guaranteed more accurate than the target
    • The target model is skipped for every accepted token
  3. จะเกิดอะไรขึ้นกับโทเค็นที่ร่างไว้หลังจากโทเค็นแรกที่โมเดลเป้าหมายปฏิเสธ
    • ทุกอย่างหลังจากที่ไม่ตรงกันครั้งแรกจะถูกละทิ้ง
    • พวกเขาทั้งหมดก็ยอมรับอยู่แล้ว
    • พวกเขาถูกส่งไปยังรุ่นที่สาม
    • พวกเขาจะถูกแคชและนำมาใช้ซ้ำในเทิร์นถัดไป
  4. What correctness property does the standard exact speculative-sampling rejection procedure preserve under its assumptions?
    • An identical random sequence for every possible random seed
    • Guaranteed truth of every generated statement
    • The draft model's distribution regardless of the target
    • The target model's configured sampling distribution
  5. Which mechanism distinguishes EAGLE's drafting approach from Medusa's additional decoding heads?
    • EAGLE performs only word-count-based lexical retrieval
    • EAGLE drafts autoregressively at the target model's feature level
    • EAGLE removes target verification from every algorithm
    • EAGLE and Medusa are the same architecture with different names
  6. Why should a speculative-decoding benchmark report the draft-target pair and acceptance rate?
    • Every model pair has the same guaranteed speedup
    • Acceptance rate measures whether generated facts are true
    • Speedup depends on drafting and verification costs and how many proposed tokens are accepted
    • The target model's hardware and context length cannot affect performance
  7. In exact speculative sampling, a proposed token has q equal to 0.2 and p equal to 0.1. What is its acceptance probability?
    • 0.1, because only p is used
    • 0.2, because only q is used
    • 1.0, because every proposed token is accepted
    • 0.5, from min(1, p/q)
  8. What can the standard speculative-sampling algorithm emit when every token in a drafted block is accepted?
    • The accepted block plus an additional token sampled from the target
    • Only the last drafted token, discarding the accepted prefix
    • An arbitrary extra draft token without target sampling
    • No output until the draft model is retrained