Quiz lié à un guide · Difficile Niveau

VQ-VAE et Quiz sur les latents discrètes

Découvrez comment VQ-VAE mappe les sorties continues du codeur aux entrées discrètes du livre de codes pour la modélisation et la reconstruction génératives.

Chemins de guidage associésVq Vae et latentes discrètes
Question 1 de 8

Qu'est-ce qui différencie l'espace latent d'un VQ-VAE de celui d'un VAE standard ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Qu'est-ce qui différencie l'espace latent d'un VQ-VAE de celui d'un VAE standard ?
    • Il est discret, utilisant un livre de codes appris d'intégrations
    • C'est continu et gaussien
    • Il n'a aucun espace latent
    • Il stocke les pixels bruts
  2. Comment VQ-VAE fait-il passer les gradients à travers l’étape de quantification non différentiable ?
    • Il ignore complètement la rétropropagation
    • Avec un estimateur direct qui copie les gradients au-delà du quantificateur
    • En utilisant uniquement l’apprentissage par renforcement
    • En arrondissant les dégradés aux nombres entiers
  3. Qu'est-ce que « l'effondrement du livre de codes » ?
    • Le décodeur ignore les latents
    • Les sorties du codeur deviennent infinies
    • Seule une petite fraction des entrées du livre de codes est utilisée
    • La résolution de l'image tombe à zéro
  4. Pourquoi les latentes discrètes sont-elles utiles pour la modélisation générative avec Transformers ?
    • Ils rendent les images plus petites sur le disque uniquement
    • Ils éliminent le besoin d'un décodeur
    • Ils suppriment tout caractère aléatoire de la génération
    • Ils transforment les médias en séquences de jetons qu'un Transformer peut modéliser comme un langage.
  5. Qu'est-ce que VQGAN a ajouté en plus de la recette de base du VQ-VAE ?
    • Pertes contradictoires et perceptuelles pour des reconstructions plus précises
    • Un échantillonneur de diffusion
    • Suppression du livre de codes
    • Un encodeur récurrent
  6. Quel terme de perte maintient l'encodeur « engagé » dans les entrées du livre de codes qu'il sélectionne ?
    • La divergence KL
    • La perte d’engagement
    • La perte d'entropie croisée
    • La perte du triplet
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper