Викторина, связанная с руководством · Жесткий Уровень

Викторина VQ-VAE и дискретные латентные явления

Узнайте, как VQ-VAE сопоставляет непрерывные выходные данные кодера с дискретными записями кодовой книги для генеративного моделирования и реконструкции.

Связанные направляющие путиVq Vae и дискретные латентные значения
Вопрос 1 из 8

Что отличает скрытое пространство VQ-VAE от стандартного VAE?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Что отличает скрытое пространство VQ-VAE от стандартного VAE?
    • Он дискретен, использует изученную кодовую книгу вложений.
    • Оно непрерывно и гауссово
    • У него вообще нет скрытого пространства
    • Он хранит необработанные пиксели
  2. Как VQ-VAE пропускает градиенты через этап недифференцируемого квантования?
    • Он полностью пропускает обратное распространение ошибки
    • С помощью прямого средства оценки, которое копирует градиенты за пределы квантователя.
    • Используя только обучение с подкреплением
    • Округлив градиенты до целых чисел
  3. Что такое «коллапс кодовой книги»?
    • Декодер игнорирует скрытые
    • Выходы энкодера становятся бесконечными
    • Только небольшая часть записей кодовой книги когда-либо используется.
    • Разрешение изображения падает до нуля
  4. Почему дискретные скрытые значения полезны для генеративного моделирования с помощью Transformers?
    • Они уменьшают изображения только на диске.
    • Они устраняют необходимость в декодере.
    • Они удаляют всю случайность из генерации
    • Они превращают медиа в последовательности токенов, которые Трансформатор может моделировать как язык.
  5. Что VQGAN добавил к базовому рецепту VQ-VAE?
    • Состязательные и перцептивные потери для более точных реконструкций
    • Диффузионный пробоотборник
    • Удаление кодовой книги
    • Рекуррентный кодер
  6. Какой термин потери удерживает кодировщик «привязанным» к записям кодовой книги, которые он выбирает?
    • Дивергенция КЛ
    • Потеря обязательств
    • Потеря перекрестной энтропии
    • Тройная потеря
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper