引導式測驗 · 硬 等級

VQ-VAE 和離散潛在測驗

查看 VQ-VAE 如何將連續編碼器輸出對應到離散碼本條目以進行產生建模和重建。

相關引導路徑Vq Vae 和離散潛伏
問題 1 的 8

VQ-VAE 的潛在空間與標準 VAE 的潛在空間有何不同?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. VQ-VAE 的潛在空間與標準 VAE 的潛在空間有何不同?
    • 它是離散的,使用學習的嵌入密碼本
    • 它是連續且高斯的
    • 它根本沒有潛在空間
    • 它儲存原始像素
  2. VQ-VAE 如何透過不可微量化步驟傳遞梯度?
    • 它完全跳過反向傳播
    • 使用直通估計器複製經過量化器的梯度
    • 僅使用強化學習
    • 透過將梯度四捨五入為整數
  3. 什麼是「密碼本崩潰」?
    • 解碼器忽略潛在的
    • 編碼器輸出變成無窮大
    • 只有一小部分密碼本條目被使用過
    • 影像解析度降至零
  4. 為什麼離散潛在變數對於使用 Transformer 進行生成建模很有用?
    • 它們僅使磁碟上的圖像變小
    • 它們消除了對解碼器的需要
    • 他們消除了生成中的所有隨機性
    • 他們將媒體轉化為 Transformer 可以像語言一樣建模的標記序列
  5. VQGAN 在基本 VQ-VAE 配方之上添加了什麼?
    • 對抗性和感知損失以實現更清晰的重建
    • 擴散採樣器
    • 刪除密碼本
    • 循環編碼器
  6. 哪個損失項使編碼器「致力於」它選擇的碼本條目?
    • KL 散度
    • 承諾損失
    • 交叉熵損失
    • 三重態損失
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper