Quiz połączony z przewodnikiem · Ciężko Poziom

Quiz VQ-VAE i dyskretne ukryte utajenia

Przejrzyj, w jaki sposób VQ-VAE odwzorowuje ciągłe wyjścia kodera na dyskretne wpisy książki kodowej na potrzeby modelowania generatywnego i rekonstrukcji.

Powiązane ścieżki prowadząceVq Vae i dyskretne utajenia
Pytanie 1 z 8

Czym przestrzeń ukryta VQ-VAE różni się od standardowej przestrzeni VAE?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Czym przestrzeń ukryta VQ-VAE różni się od standardowej przestrzeni VAE?
    • Jest dyskretny i wykorzystuje wyuczony zbiór kodów osadzonych
    • Jest ciągły i gaussowski
    • Nie ma w nim żadnej ukrytej przestrzeni
    • Przechowuje surowe piksele
  2. W jaki sposób VQ-VAE przepuszcza gradienty przez etap niezróżnicowanej kwantyzacji?
    • Całkowicie pomija wsteczną propagację
    • Z prostym estymatorem, który kopiuje gradienty poza kwantyzator
    • Używając wyłącznie uczenia się przez wzmacnianie
    • Zaokrąglając gradienty do liczb całkowitych
  3. Co to jest „załamanie książki kodowej”?
    • Dekoder ignoruje ukryte informacje
    • Wyjścia enkodera stają się nieskończone
    • Tylko niewielka część wpisów w książce kodowej jest kiedykolwiek używana
    • Rozdzielczość obrazu spada do zera
  4. Dlaczego dyskretne utajenia są przydatne w modelowaniu generatywnym za pomocą transformatorów?
    • Zmniejszają obrazy tylko na dysku
    • Eliminują potrzebę stosowania dekodera
    • Usuwają wszelką przypadkowość z pokolenia
    • Zamieniają media w sekwencje symboli, które Transformer może modelować jak język
  5. Co VQGAN dodał do podstawowej receptury VQ-VAE?
    • Straty kontradyktoryjne i percepcyjne dla ostrzejszych rekonstrukcji
    • Próbnik dyfuzyjny
    • Usunięcie książki kodowej
    • Enkoder rekurencyjny
  6. Który składnik straty sprawia, że koder jest „zaangażowany” w wybrane przez siebie wpisy książki kodowej?
    • Rozbieżność KL
    • Utrata zaangażowania
    • Strata entropii krzyżowej
    • Trójporażka
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper