แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ
การถอดรหัสแบบเก็งกำไรด้วย EAGLE Quiz
ตรวจสอบการร่างฟีเจอร์ EAGLE การตรวจสอบเป้าหมาย การเก็บรักษาการแจกจ่าย การฝังคำติชม แผนผังร่างไดนามิก และต้นทุนการถอดรหัส
คำถาม 1 ของ 8
แนวคิดหลักเบื้องหลังการถอดรหัสแบบเก็งกำไรคืออะไร
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- แนวคิดหลักเบื้องหลังการถอดรหัสแบบเก็งกำไรคืออะไร
- ผู้ร่างราคาถูกเสนอโทเค็นหลายรายการซึ่งโมเดลขนาดใหญ่ตรวจสอบในการส่งผ่านคู่ขนานครั้งเดียว
- การบีบอัดน้ำหนักของแบบจำลองให้มีความแม่นยำเพียงครึ่งหนึ่ง
- ข้ามเลเยอร์ของเครือข่ายโดยการสุ่ม
- แคชทุกประโยคเอาต์พุตที่เป็นไปได้ล่วงหน้า
- EAGLE แตกต่างจากวิธีการถอดรหัสแบบเก็งกำไรรุ่นก่อนๆ อย่างไร
- โดยจะลบขั้นตอนการยืนยันทั้งหมด
- โดยจะร่างในพื้นที่ฟีเจอร์ที่ซ่อนอยู่ของโมเดล แทนที่จะร่างที่ระดับโทเค็นโดยตรง
- โดยจะใช้โมเดลขนาดใหญ่ที่แยกจากกันโดยสิ้นเชิงเป็นผู้ร่าง
- ใช้งานได้เฉพาะกับการสร้างภาพเท่านั้น
- Why is speculative decoding considered lossless when implemented with exact verification?
- Every draft token is accepted unconditionally
- The drafter always predicts the target’s next token
- The acceptance and correction procedure preserves the target model’s output distribution
- The target model is never evaluated
- ปัญหาใดในการร่างฟีเจอร์ของ EAGLE ที่ป้อนกลับการฝังโทเค็นก่อนหน้าช่วยแก้ปัญหา
- การกระจายตัวของหน่วยความจำบน GPU
- Tokenizer ไม่ตรงกันระหว่างภาษา
- ความร้อนสูงเกินไปของฮาร์ดแวร์
- ความไม่แน่นอน/ความคลุมเครือของการทำนายคุณลักษณะถัดไป
- EAGLE-2 เพิ่มอะไรจาก EAGLE ดั้งเดิม
- แผนภูมิร่างแบบไดนามิกที่ปรับจำนวนผู้สมัครที่จะเสนอ
- แบบร่างโทเค็นเดียวคงที่
- การถอดหัว LM
- การฝึกอบรมข้อมูลสองเท่าเท่านั้น
- เหตุใดคอขวดแบบ autoregressive จึงทำให้การสร้าง LLM ธรรมดาช้าลง
- โมเดลจะฝึกตัวเองใหม่หลังจากแต่ละโทเค็น
- โทเค็นใหม่แต่ละรายการต้องมีการส่งต่อแบบเต็มผ่านพารามิเตอร์นับพันล้านก่อนจึงจะสามารถเริ่มต้นโทเค็นถัดไปได้
- โทเค็นจะถูกจัดเก็บไว้ในดิสก์ระหว่างขั้นตอนต่างๆ
- GPU ต้องรีบูตต่อโทเค็น
- After EAGLE predicts a hidden-state feature, which component turns that feature into candidate token probabilities?
- The tokenizer’s vocabulary file alone
- The optimizer’s momentum buffer
- The target model’s language-model head
- The KV-cache allocator
- What change does EAGLE-3 make to the original feature-drafting constraint?
- It replaces the target model with a tokenizer
- It disables target verification
- It requires a separate human drafter
- It removes a feature-prediction constraint to improve scaling