Quiz lié à un guide · Difficile Niveau
VQ-VAE et Quiz sur les latents discrètes
Découvrez comment VQ-VAE mappe les sorties continues du codeur aux entrées discrètes du livre de codes pour la modélisation et la reconstruction génératives.
Question 1 de 8
Qu'est-ce qui différencie l'espace latent d'un VQ-VAE de celui d'un VAE standard ?
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- Qu'est-ce qui différencie l'espace latent d'un VQ-VAE de celui d'un VAE standard ?
- Il est discret, utilisant un livre de codes appris d'intégrations
- C'est continu et gaussien
- Il n'a aucun espace latent
- Il stocke les pixels bruts
- Comment VQ-VAE fait-il passer les gradients à travers l’étape de quantification non différentiable ?
- Il ignore complètement la rétropropagation
- Avec un estimateur direct qui copie les gradients au-delà du quantificateur
- En utilisant uniquement l’apprentissage par renforcement
- En arrondissant les dégradés aux nombres entiers
- Qu'est-ce que « l'effondrement du livre de codes » ?
- Le décodeur ignore les latents
- Les sorties du codeur deviennent infinies
- Seule une petite fraction des entrées du livre de codes est utilisée
- La résolution de l'image tombe à zéro
- Pourquoi les latentes discrètes sont-elles utiles pour la modélisation générative avec Transformers ?
- Ils rendent les images plus petites sur le disque uniquement
- Ils éliminent le besoin d'un décodeur
- Ils suppriment tout caractère aléatoire de la génération
- Ils transforment les médias en séquences de jetons qu'un Transformer peut modéliser comme un langage.
- Qu'est-ce que VQGAN a ajouté en plus de la recette de base du VQ-VAE ?
- Pertes contradictoires et perceptuelles pour des reconstructions plus précises
- Un échantillonneur de diffusion
- Suppression du livre de codes
- Un encodeur récurrent
- Quel terme de perte maintient l'encodeur « engagé » dans les entrées du livre de codes qu'il sélectionne ?
- La divergence KL
- La perte d’engagement
- La perte d'entropie croisée
- La perte du triplet
- What kind of prior does the original VQ-VAE paper learn over its discrete codes?
- A fixed prior that is never learned
- A prior over camera locations only
- A learned prior over the discrete code sequence
- No prior or decoder distribution
- Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
- The original Whisper speech-recognition paper
- A paper on Kalman-filter vehicle tracking
- The original BERT masked-language-model paper
- The original DALL·E paper