แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ
แบบทดสอบ VQ-VAE และ Discrete Latents
ตรวจสอบว่า VQ-VAE จับคู่เอาต์พุตตัวเข้ารหัสแบบต่อเนื่องกับรายการสมุดโค้ดแบบแยกส่วนสำหรับการสร้างแบบจำลองและการสร้างใหม่ได้อย่างไร
คำถาม 1 ของ 8
อะไรทำให้พื้นที่แฝงของ VQ-VAE แตกต่างจาก VAE มาตรฐาน
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- อะไรทำให้พื้นที่แฝงของ VQ-VAE แตกต่างจาก VAE มาตรฐาน
- เป็นแบบแยกส่วน โดยใช้สมุดโค้ดที่เรียนรู้เกี่ยวกับการฝัง
- มันเป็นแบบต่อเนื่องและแบบเกาส์เซียน
- มันไม่มีพื้นที่แฝงเลย
- มันเก็บพิกเซลดิบ
- VQ-VAE ผ่านการไล่ระดับสีผ่านขั้นตอนการหาปริมาณที่ไม่สามารถหาความแตกต่างได้อย่างไร
- มันข้ามการเผยแพร่กลับโดยสิ้นเชิง
- ด้วยตัวประมาณค่าแบบเส้นตรงที่คัดลอกการไล่ระดับสีผ่านควอไลเซอร์
- โดยใช้การเรียนรู้แบบเสริมกำลังเท่านั้น
- โดยการปัดเศษการไล่ระดับสีให้เป็นจำนวนเต็ม
- 'codebook ล่มสลาย' คืออะไร?
- ตัวถอดรหัสจะละเว้นค่าแฝง
- เอาต์พุตของตัวเข้ารหัสจะไม่มีที่สิ้นสุด
- มีการใช้รายการ Codebook เพียงเล็กน้อยเท่านั้น
- ความละเอียดของภาพลดลงเหลือศูนย์
- เหตุใดค่าแฝงแบบแยกจึงมีประโยชน์สำหรับการสร้างแบบจำลองเชิงกำเนิดด้วย Transformers
- ทำให้รูปภาพเล็กลงบนดิสก์เท่านั้น
- พวกเขาไม่จำเป็นต้องใช้ตัวถอดรหัส
- พวกเขาลบการสุ่มทั้งหมดออกจากรุ่น
- พวกเขาเปลี่ยนสื่อให้เป็นลำดับโทเค็นที่ Transformer สามารถสร้างแบบจำลองได้เหมือนกับภาษา
- VQGAN เพิ่มอะไรนอกเหนือจากสูตร VQ-VAE พื้นฐาน
- การสูญเสียฝ่ายตรงข้ามและการรับรู้สำหรับการสร้างใหม่ให้คมชัดยิ่งขึ้น
- ตัวอย่างการแพร่กระจาย
- การถอดสมุดโค้ดออก
- ตัวเข้ารหัสที่เกิดซ้ำ
- ระยะเวลาการสูญเสียใดที่ทำให้ตัวเข้ารหัส 'มุ่งมั่น' กับรายการสมุดรหัสที่เลือก
- ความแตกต่างของ KL
- การสูญเสียความมุ่งมั่น
- การสูญเสียข้ามเอนโทรปี
- การสูญเสียแฝดสาม
- What kind of prior does the original VQ-VAE paper learn over its discrete codes?
- A fixed prior that is never learned
- A prior over camera locations only
- A learned prior over the discrete code sequence
- No prior or decoder distribution
- Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
- The original Whisper speech-recognition paper
- A paper on Kalman-filter vehicle tracking
- The original BERT masked-language-model paper
- The original DALL·E paper