Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Diffúziós transzformátorok kvíz
Explore DiT patch tokens, conditioning, scaling, video space-time representations, and the attention cost of many tokens.
kérdés 1 -ból 8
Milyen alkatrészt helyettesít a diffúziós transzformátor a hagyományos diffúziós modellekhez képest?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Milyen alkatrészt helyettesít a diffúziós transzformátor a hagyományos diffúziós modellekhez képest?
- A konvolúciós U-Net zajtalanító
- A szövegkódoló
- A képdekódoló
- A zaj ütemezése
- Hogyan változtat egy DiT egy képet olyasmivé, amit a Transformer képes feldolgozni?
- A képpontokat közvetlenül szavakká alakítja
- A látens képet tokenként kezelt foltokra bontja
- Egy tokent használ a teljes képhez
- Először a képet hanggá alakítja
- Mit talált az eredeti DiT-papír a méretezésről?
- Teljesítményplatók gyorsan mérettel
- A nagyobb modellek mindig rosszabbul teljesítenek
- A teljesítmény előre láthatóan javul a modell méretének növekedésével és a foltméret csökkenésével
- A patch méretének nincs hatása
- Hogyan alkalmazzák a DiT-ek a feltételeket, például az időlépést és a szöveges promptot?
- Extra pixelként hozzáfűzve
- A modell minden egyes lépésében újratanulásával
- Külön konvolúciós ágon keresztül
- Az adaptív rétegnormalizáció (adaLN) révén
- Mit ér el az „adaLN-zero” inicializálás?
- Ezáltal minden Transformer blokk identitásfüggvényként indul a stabil edzés érdekében
- Törli a normalizálási rétegeket
- Lefagyasztja az egész modellt
- A bemeneti képet nullázza
- Melyik jól ismert rendszer használ Transformer gerincet a téridő foltokon keresztül a videó generálásához?
- Egy hagyományos GAN
- OpenAI Sora
- Egy visszatérő neurális hálózat
- Döntési fa modell
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels