Тест, свързан с ръководство · трудно Ниво

VQ-VAE и тест за дискретни латенти

Прегледайте как VQ-VAE картографира непрекъснатите изходи на енкодера към дискретни записи в кодовата книга за генеративно моделиране и реконструкция.

Свързани ръководни пътекиVq Vae и дискретни латенти
Въпрос 1 на 8

Какво прави латентното пространство на VQ-VAE различно от стандартните VAE?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво прави латентното пространство на VQ-VAE различно от стандартните VAE?
    • Дискретно е, използвайки научена кодова книга от вграждания
    • Тя е непрекъсната и Гаусова
    • Изобщо няма латентно пространство
    • Той съхранява необработени пиксели
  2. Как VQ-VAE преминава градиенти през недиференцируемата стъпка на квантуване?
    • Пропуска изцяло обратното разпространение
    • С директен оценител, който копира градиенти след квантователя
    • Чрез използване само на обучение за засилване
    • Чрез закръгляване на градиенти до цели числа
  3. Какво е „свиване на кодовата книга“?
    • Декодерът игнорира латентите
    • Изходите на енкодера стават безкрайни
    • Само малка част от записите в кодовата книга някога се използват
    • Разделителната способност на изображението пада до нула
  4. Защо дискретните латенти са полезни за генеративно моделиране с Transformers?
    • Те правят изображенията по-малки само на диска
    • Те премахват нуждата от декодер
    • Те премахват всяка случайност от генерирането
    • Те превръщат медиите в символични последователности, които Transformer може да моделира като език
  5. Какво добави VQGAN към основната рецепта за VQ-VAE?
    • Съпернически и перцептивни загуби за по-ясни реконструкции
    • Дифузионен пробоотборник
    • Премахване на кодовата книга
    • Повтарящ се енкодер
  6. Кой термин на загуба държи енкодера „обвързан“ със записите в кодовата книга, които избира?
    • Дивергенцията на KL
    • Загубата на ангажимента
    • Загубата на кръстосана ентропия
    • Триплетната загуба
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper