Kvíz spojený s průvodcem · Střední úroveň
Kvíz o difúzních transformátorech
Prozkoumejte tokeny oprav DiT, úpravy, škálování, video prostoročasové reprezentace a náklady na pozornost mnoha tokenů.
Otázka 1 z 8
Jakou součástku nahrazuje difúzní transformátor ve srovnání s tradičními difúzními modely?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jakou součástku nahrazuje difúzní transformátor ve srovnání s tradičními difúzními modely?
- Konvoluční odšumovač U-Net
- Textový kodér
- Obrazový dekodér
- Hlukový harmonogram
- Jak DiT změní obrázek na něco, co dokáže Transformer zpracovat?
- Převádí pixely přímo na slova
- Rozdělí latentní obraz do polí, která jsou považována za tokeny
- Používá jeden token pro celý obrázek
- Nejprve převede obraz na zvuk
- Co zjistil původní dokument DiT o škálování?
- Výkon rychle klesá s velikostí
- Větší modely mají vždy horší výkon
- Výkon se předvídatelně zlepšuje s rostoucí velikostí modelu a zmenšováním velikosti záplat
- Velikost náplasti nemá žádný vliv
- Jak DiTs obvykle aplikuje úpravu, jako je časový krok a textová výzva?
- Jeho připojením jako pixely navíc
- Přetrénováním modelu každý krok
- Přes samostatnou konvoluční větev
- Prostřednictvím adaptivní normalizace vrstvy (adaLN)
- Čeho dosáhne inicializace „adaLN-zero“?
- Každý blok Transformeru začíná jako funkce identity pro stabilní trénink
- Vymaže normalizační vrstvy
- Zamrzí celý model
- Vynuluje vstupní obrázek
- Který známý systém používá pro generování videa páteř Transformer přes časoprostorové záplaty?
- Tradiční GAN
- OpenAI uživatele Sora
- Rekurentní neuronová síť
- Model rozhodovacího stromu
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels