引導式測驗 · 硬 等級
VQ-VAE 和離散潛在測驗
查看 VQ-VAE 如何將連續編碼器輸出對應到離散碼本條目以進行產生建模和重建。
問題 1 的 8
VQ-VAE 的潛在空間與標準 VAE 的潛在空間有何不同?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- VQ-VAE 的潛在空間與標準 VAE 的潛在空間有何不同?
- 它是離散的,使用學習的嵌入密碼本
- 它是連續且高斯的
- 它根本沒有潛在空間
- 它儲存原始像素
- VQ-VAE 如何透過不可微量化步驟傳遞梯度?
- 它完全跳過反向傳播
- 使用直通估計器複製經過量化器的梯度
- 僅使用強化學習
- 透過將梯度四捨五入為整數
- 什麼是「密碼本崩潰」?
- 解碼器忽略潛在的
- 編碼器輸出變成無窮大
- 只有一小部分密碼本條目被使用過
- 影像解析度降至零
- 為什麼離散潛在變數對於使用 Transformer 進行生成建模很有用?
- 它們僅使磁碟上的圖像變小
- 它們消除了對解碼器的需要
- 他們消除了生成中的所有隨機性
- 他們將媒體轉化為 Transformer 可以像語言一樣建模的標記序列
- VQGAN 在基本 VQ-VAE 配方之上添加了什麼?
- 對抗性和感知損失以實現更清晰的重建
- 擴散採樣器
- 刪除密碼本
- 循環編碼器
- 哪個損失項使編碼器「致力於」它選擇的碼本條目?
- KL 散度
- 承諾損失
- 交叉熵損失
- 三重態損失
- What kind of prior does the original VQ-VAE paper learn over its discrete codes?
- A fixed prior that is never learned
- A prior over camera locations only
- A learned prior over the discrete code sequence
- No prior or decoder distribution
- Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
- The original Whisper speech-recognition paper
- A paper on Kalman-filter vehicle tracking
- The original BERT masked-language-model paper
- The original DALL·E paper