Тест, свързан с ръководство · Среден Ниво

Тест за дифузионни трансформатори

Разгледайте токените за корекция на DiT, кондиционирането, мащабирането, представянето на видео пространство-времето и цената на вниманието на много токени.

Свързани ръководни пътекиДифузионни трансформатори
Въпрос 1 на 8

Какъв компонент заменя дифузионният трансформатор в сравнение с традиционните дифузионни модели?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какъв компонент заменя дифузионният трансформатор в сравнение с традиционните дифузионни модели?
    • Конволюционният U-Net шумозаглушител
    • Текстовият енкодер
    • Декодерът на изображението
    • Графикът на шума
  2. Как DiT превръща изображение в нещо, което Transformer може да обработи?
    • Преобразува пикселите директно в думи
    • Той разделя латентното изображение на пачове, третирани като токени
    • Той използва един жетон за цялото изображение
    • Първо преобразува изображението в аудио
  3. Какво откри оригиналният DiT документ за мащабирането?
    • Производителността се повишава бързо с размерите
    • По-големите модели винаги се представят по-зле
    • Производителността се подобрява предсказуемо с нарастването на размера на модела и намаляването на размера на корекцията
    • Размерът на пластира няма ефект
  4. Как DiTs обикновено инжектират кондициониране като времева стъпка и текстова подкана?
    • Като го добавите като допълнителни пиксели
    • Чрез преобучение на модела на всяка стъпка
    • Чрез отделен конволюционен клон
    • Чрез нормализиране на адаптивен слой (adaLN)
  5. Какво постига инициализацията 'adaLN-zero'?
    • Това кара всеки блок Transformer да стартира като функция за идентичност за стабилно обучение
    • Той изтрива нормализиращите слоеве
    • Замразява целия модел
    • Той нулира входното изображение
  6. Коя добре позната система използва гръбнак на Transformer над пространствено-времеви пачове за генериране на видео?
    • Традиционен GAN
    • OpenAI на Sora
    • Повтаряща се невронна мрежа
    • Модел на дървото на решенията
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels