Kvíz spojený s průvodcem · Střední úroveň

Kvíz o difúzních transformátorech

Prozkoumejte tokeny oprav DiT, úpravy, škálování, video prostoročasové reprezentace a náklady na pozornost mnoha tokenů.

Související vodicí cestyDifúzní transformátory
Otázka 1 z 8

Jakou součástku nahrazuje difúzní transformátor ve srovnání s tradičními difúzními modely?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jakou součástku nahrazuje difúzní transformátor ve srovnání s tradičními difúzními modely?
    • Konvoluční odšumovač U-Net
    • Textový kodér
    • Obrazový dekodér
    • Hlukový harmonogram
  2. Jak DiT změní obrázek na něco, co dokáže Transformer zpracovat?
    • Převádí pixely přímo na slova
    • Rozdělí latentní obraz do polí, která jsou považována za tokeny
    • Používá jeden token pro celý obrázek
    • Nejprve převede obraz na zvuk
  3. Co zjistil původní dokument DiT o škálování?
    • Výkon rychle klesá s velikostí
    • Větší modely mají vždy horší výkon
    • Výkon se předvídatelně zlepšuje s rostoucí velikostí modelu a zmenšováním velikosti záplat
    • Velikost náplasti nemá žádný vliv
  4. Jak DiTs obvykle aplikuje úpravu, jako je časový krok a textová výzva?
    • Jeho připojením jako pixely navíc
    • Přetrénováním modelu každý krok
    • Přes samostatnou konvoluční větev
    • Prostřednictvím adaptivní normalizace vrstvy (adaLN)
  5. Čeho dosáhne inicializace „adaLN-zero“?
    • Každý blok Transformeru začíná jako funkce identity pro stabilní trénink
    • Vymaže normalizační vrstvy
    • Zamrzí celý model
    • Vynuluje vstupní obrázek
  6. Který známý systém používá pro generování videa páteř Transformer přes časoprostorové záplaty?
    • Tradiční GAN
    • OpenAI uživatele Sora
    • Rekurentní neuronová síť
    • Model rozhodovacího stromu
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels