แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

การถอดรหัสแบบเก็งกำไรด้วย EAGLE Quiz

ตรวจสอบการร่างฟีเจอร์ EAGLE การตรวจสอบเป้าหมาย การเก็บรักษาการแจกจ่าย การฝังคำติชม แผนผังร่างไดนามิก และต้นทุนการถอดรหัส

เส้นทางแนะนำที่เกี่ยวข้องการถอดรหัสเก็งกำไรด้วย Eagle
คำถาม 1 ของ 8

แนวคิดหลักเบื้องหลังการถอดรหัสแบบเก็งกำไรคืออะไร

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. แนวคิดหลักเบื้องหลังการถอดรหัสแบบเก็งกำไรคืออะไร
    • ผู้ร่างราคาถูกเสนอโทเค็นหลายรายการซึ่งโมเดลขนาดใหญ่ตรวจสอบในการส่งผ่านคู่ขนานครั้งเดียว
    • การบีบอัดน้ำหนักของแบบจำลองให้มีความแม่นยำเพียงครึ่งหนึ่ง
    • ข้ามเลเยอร์ของเครือข่ายโดยการสุ่ม
    • แคชทุกประโยคเอาต์พุตที่เป็นไปได้ล่วงหน้า
  2. EAGLE แตกต่างจากวิธีการถอดรหัสแบบเก็งกำไรรุ่นก่อนๆ อย่างไร
    • โดยจะลบขั้นตอนการยืนยันทั้งหมด
    • โดยจะร่างในพื้นที่ฟีเจอร์ที่ซ่อนอยู่ของโมเดล แทนที่จะร่างที่ระดับโทเค็นโดยตรง
    • โดยจะใช้โมเดลขนาดใหญ่ที่แยกจากกันโดยสิ้นเชิงเป็นผู้ร่าง
    • ใช้งานได้เฉพาะกับการสร้างภาพเท่านั้น
  3. Why is speculative decoding considered lossless when implemented with exact verification?
    • Every draft token is accepted unconditionally
    • The drafter always predicts the target’s next token
    • The acceptance and correction procedure preserves the target model’s output distribution
    • The target model is never evaluated
  4. ปัญหาใดในการร่างฟีเจอร์ของ EAGLE ที่ป้อนกลับการฝังโทเค็นก่อนหน้าช่วยแก้ปัญหา
    • การกระจายตัวของหน่วยความจำบน GPU
    • Tokenizer ไม่ตรงกันระหว่างภาษา
    • ความร้อนสูงเกินไปของฮาร์ดแวร์
    • ความไม่แน่นอน/ความคลุมเครือของการทำนายคุณลักษณะถัดไป
  5. EAGLE-2 เพิ่มอะไรจาก EAGLE ดั้งเดิม
    • แผนภูมิร่างแบบไดนามิกที่ปรับจำนวนผู้สมัครที่จะเสนอ
    • แบบร่างโทเค็นเดียวคงที่
    • การถอดหัว LM
    • การฝึกอบรมข้อมูลสองเท่าเท่านั้น
  6. เหตุใดคอขวดแบบ autoregressive จึงทำให้การสร้าง LLM ธรรมดาช้าลง
    • โมเดลจะฝึกตัวเองใหม่หลังจากแต่ละโทเค็น
    • โทเค็นใหม่แต่ละรายการต้องมีการส่งต่อแบบเต็มผ่านพารามิเตอร์นับพันล้านก่อนจึงจะสามารถเริ่มต้นโทเค็นถัดไปได้
    • โทเค็นจะถูกจัดเก็บไว้ในดิสก์ระหว่างขั้นตอนต่างๆ
    • GPU ต้องรีบูตต่อโทเค็น
  7. After EAGLE predicts a hidden-state feature, which component turns that feature into candidate token probabilities?
    • The tokenizer’s vocabulary file alone
    • The optimizer’s momentum buffer
    • The target model’s language-model head
    • The KV-cache allocator
  8. What change does EAGLE-3 make to the original feature-drafting constraint?
    • It replaces the target model with a tokenizer
    • It disables target verification
    • It requires a separate human drafter
    • It removes a feature-prediction constraint to improve scaling