Quiz collegato alla guida · Difficile Livello

VQ-VAE e quiz sui latenti discreti

Esamina il modo in cui VQ-VAE mappa gli output continui del codificatore in voci discrete del codebook per la modellazione e la ricostruzione generativa.

Percorsi guida correlatiVq Vae e latenti discreti
Domanda 1 di 8

Cosa rende lo spazio latente di VQ-VAE diverso da quello di VAE standard?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Cosa rende lo spazio latente di VQ-VAE diverso da quello di VAE standard?
    • È discreto e utilizza un codice appreso di incorporamenti
    • È continuo e gaussiano
    • Non ha alcuno spazio latente
    • Memorizza i pixel grezzi
  2. In che modo VQ-VAE fa passare i gradienti attraverso la fase di quantizzazione non differenziabile?
    • Salta completamente la propagazione all'indietro
    • Con uno stimatore diretto che copia i gradienti oltre il quantizzatore
    • Utilizzando solo l'apprendimento per rinforzo
    • Arrotondando i gradienti ai numeri interi
  3. Cos'è il "crollo del codice"?
    • Il decodificatore ignora i latenti
    • Le uscite dell'encoder diventano infinite
    • Solo una piccola parte delle voci del codebook viene utilizzata
    • La risoluzione dell'immagine scende a zero
  4. Perché i latenti discreti sono utili per la modellazione generativa con Transformers?
    • Rimpiccioliscono le immagini solo su disco
    • Eliminano la necessità di un decoder
    • Rimuovono tutta la casualità dalla generazione
    • Trasformano i media in sequenze di token che un Transformer può modellare come linguaggio
  5. Cosa ha aggiunto VQGAN alla ricetta base VQ-VAE?
    • Perdite contraddittorie e percettive per ricostruzioni più nitide
    • Un campionatore di diffusione
    • Rimozione del libro dei codici
    • Un codificatore ricorrente
  6. Quale termine di perdita mantiene il codificatore "impegnato" nelle voci del codebook che seleziona?
    • La divergenza di KL
    • La perdita di impegno
    • La perdita di entropia incrociata
    • La perdita della tripletta
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper