VQ-VAE および離散潜在クイズ

クイズに答えると、答えと解説が表示されます。

1. VQ-VAE の潜在空間は標準の VAE と何が違うのですか?
   • 学習された埋め込みコードブックを使用し、離散的です
   • 連続的かつガウス的です
   • 潜在的なスペースがまったくありません
   • 生のピクセルを保存します
2. VQ-VAE はどのようにして微分不可能な量子化ステップを通じて勾配を通過させますか?
   • バックプロパゲーションを完全にスキップします
   • 量子化器を通過した後の勾配をコピーするストレートエスティメーターを使用
   • 強化学習のみを使用する場合
   • 勾配を整数に丸めることにより
3. 「コードブックの崩壊」とは何ですか?
   • デコーダは潜在を無視します
   • エンコーダ出力が無限大になる
   • コードブック エントリのうち使用されるのはほんの一部だけです
   • 画像の解像度がゼロになる
4. 離散潜在が Transformer による生成モデリングに役立つのはなぜですか?
   • ディスク上でのみ画像を小さくします
   • デコーダが不要になります
   • 生成からすべてのランダム性を削除します
   • メディアをトークン シーケンスに変換し、Transformer が言語のようにモデル化できるようにします。
5. VQGAN は基本的な VQ-VAE レシピに何を追加しましたか?
   • より鮮明な再構築のための敵対的および知覚的損失
   • 拡散サンプラー
   • コードブックの削除
   • リカレントエンコーダ
6. エンコーダが選択したコードブック エントリに「コミット」し続けるのはどの損失項ですか?
   • KLダイバージェンス
   • コミットメントの損失
   • クロスエントロピー損失
   • トリプレットの喪失
7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
   • A fixed prior that is never learned
   • A prior over camera locations only
   • A learned prior over the discrete code sequence
   • No prior or decoder distribution
8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
   • The original Whisper speech-recognition paper
   • A paper on Kalman-filter vehicle tracking
   • The original BERT masked-language-model paper
   • The original DALL·E paper