Вікторина, пов’язана з посібником · важко Рівень

Вікторина VQ-VAE та дискретні латенти

Ознайомтеся з тим, як VQ-VAE відображає безперервні виходи кодера на дискретні записи кодової книги для генеративного моделювання та реконструкції.

Пов'язані напрямні шляхиVq Vae і дискретні латенти
Питання 1 з 8

Чим латентний простір VQ-VAE відрізняється від стандартного VAE?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Чим латентний простір VQ-VAE відрізняється від стандартного VAE?
    • Це дискретно, використовуючи вивчену кодову книгу вбудовувань
    • Він неперервний і гаусівський
    • У ньому взагалі немає прихованого простору
    • Він зберігає необроблені пікселі
  2. Як VQ-VAE пропускає градієнти через крок недиференційованого квантування?
    • Він повністю пропускає зворотне поширення
    • З наскрізним оцінювачем, який копіює градієнти поза квантувачем
    • Лише за допомогою навчання з підкріпленням
    • Шляхом округлення градієнтів до цілих чисел
  3. Що таке «згортання кодової книги»?
    • Декодер ігнорує латенти
    • Виходи кодера стають нескінченними
    • Використовується лише невелика частина записів кодової книги
    • Роздільна здатність зображення падає до нуля
  4. Чому дискретні латенти корисні для генеративного моделювання за допомогою Transformers?
    • Вони зменшують зображення лише на диску
    • Вони усувають необхідність використання декодера
    • Вони усувають всю випадковість із генерації
    • Вони перетворюють медіа на послідовності токенів, які Transformer може моделювати як мову
  5. Що VQGAN додав до основного рецепту VQ-VAE?
    • Змагальні та перцептивні втрати для більш чітких реконструкцій
    • Дифузійний пробовідбірник
    • Вилучення кодової книги
    • Рекурентний кодер
  6. Який термін втрати тримає кодер «прив’язаним» до записів кодової книги, які він вибирає?
    • Дивергенція KL
    • Втрата зобов'язань
    • Перехресна втрата ентропії
    • Триплетна втрата
  7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
    • A fixed prior that is never learned
    • A prior over camera locations only
    • A learned prior over the discrete code sequence
    • No prior or decoder distribution
  8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
    • The original Whisper speech-recognition paper
    • A paper on Kalman-filter vehicle tracking
    • The original BERT masked-language-model paper
    • The original DALL·E paper