แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

แบบทดสอบ VQ-VAE และ Discrete Latents

ตรวจสอบว่า VQ-VAE จับคู่เอาต์พุตตัวเข้ารหัสแบบต่อเนื่องกับรายการสมุดโค้ดแบบแยกส่วนสำหรับการสร้างแบบจำลองและการสร้างใหม่ได้อย่างไร

เส้นทางแนะนำที่เกี่ยวข้องVq Vae และค่าแฝงแบบไม่ต่อเนื่อง
คำถาม 1 ของ 8

อะไรทำให้พื้นที่แฝงของ VQ-VAE แตกต่างจาก VAE มาตรฐาน

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. อะไรทำให้พื้นที่แฝงของ VQ-VAE แตกต่างจาก VAE มาตรฐาน
    • เป็นแบบแยกส่วน โดยใช้สมุดโค้ดที่เรียนรู้เกี่ยวกับการฝัง
    • มันเป็นแบบต่อเนื่องและแบบเกาส์เซียน
    • มันไม่มีพื้นที่แฝงเลย
    • มันเก็บพิกเซลดิบ
  2. VQ-VAE ผ่านการไล่ระดับสีผ่านขั้นตอนการหาปริมาณที่ไม่สามารถหาความแตกต่างได้อย่างไร
    • มันข้ามการเผยแพร่กลับโดยสิ้นเชิง
    • ด้วยตัวประมาณค่าแบบเส้นตรงที่คัดลอกการไล่ระดับสีผ่านควอไลเซอร์
    • โดยใช้การเรียนรู้แบบเสริมกำลังเท่านั้น
    • โดยการปัดเศษการไล่ระดับสีให้เป็นจำนวนเต็ม
  3. 'codebook ล่มสลาย' คืออะไร?
    • ตัวถอดรหัสจะละเว้นค่าแฝง
    • เอาต์พุตของตัวเข้ารหัสจะไม่มีที่สิ้นสุด
    • มีการใช้รายการ Codebook เพียงเล็กน้อยเท่านั้น
    • ความละเอียดของภาพลดลงเหลือศูนย์
  4. เหตุใดค่าแฝงแบบแยกจึงมีประโยชน์สำหรับการสร้างแบบจำลองเชิงกำเนิดด้วย Transformers
    • ทำให้รูปภาพเล็กลงบนดิสก์เท่านั้น
    • พวกเขาไม่จำเป็นต้องใช้ตัวถอดรหัส
    • พวกเขาลบการสุ่มทั้งหมดออกจากรุ่น
    • พวกเขาเปลี่ยนสื่อให้เป็นลำดับโทเค็นที่ Transformer สามารถสร้างแบบจำลองได้เหมือนกับภาษา
  5. VQGAN เพิ่มอะไรนอกเหนือจากสูตร VQ-VAE พื้นฐาน
    • การสูญเสียฝ่ายตรงข้ามและการรับรู้สำหรับการสร้างใหม่ให้คมชัดยิ่งขึ้น
    • ตัวอย่างการแพร่กระจาย
    • การถอดสมุดโค้ดออก
    • ตัวเข้ารหัสที่เกิดซ้ำ
  6. ระยะเวลาการสูญเสียใดที่ทำให้ตัวเข้ารหัส 'มุ่งมั่น' กับรายการสมุดรหัสที่เลือก
    • ความแตกต่างของ KL
    • การสูญเสียความมุ่งมั่น
    • การสูญเสียข้ามเอนโทรปี
    • การสูญเสียแฝดสาม
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper