Gids-gekoppelde quiz · Middelmatig Niveau
Diffusie Transformers Quiz
Ontdek DiT-patchtokens, conditionering, schaling, videoruimte-tijdrepresentaties en de attentiekosten van veel tokens.
Vraag 1 van 8
Welk onderdeel vervangt een diffusietransformator in vergelijking met traditionele diffusiemodellen?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Welk onderdeel vervangt een diffusietransformator in vergelijking met traditionele diffusiemodellen?
- De convolutionele U-Net-denoiser
- De tekstencoder
- De beelddecoder
- Het geluidsschema
- Hoe verandert een DiT een beeld in iets dat een Transformer kan verwerken?
- Het converteert pixels rechtstreeks naar woorden
- Het splitst het latente beeld in patches die als tokens worden behandeld
- Er wordt één token gebruikt voor de hele afbeelding
- Het converteert de afbeelding eerst naar audio
- Wat vond het originele DiT-artikel over schaalvergroting?
- Prestatieplateaus nemen snel af naarmate de maat groter wordt
- Grotere modellen presteren altijd slechter
- De prestaties verbeteren voorspelbaar naarmate de modelgrootte groter wordt en de patchgrootte kleiner
- De patchgrootte heeft geen effect
- Hoe injecteren DiTs doorgaans conditionering zoals de tijdstap en tekstprompt?
- Door het toe te voegen als extra pixels
- Door het model elke stap opnieuw te trainen
- Via een aparte convolutionele tak
- Via adaptieve laagnormalisatie (adaLN)
- Wat wordt met de 'adaLN-zero'-initialisatie bereikt?
- Het zorgt ervoor dat elk Transformer-blok begint als een identiteitsfunctie voor stabiele training
- Het verwijdert de normalisatielagen
- Het bevriest het hele model
- Het stelt het invoerbeeld op nul
- Welk bekende systeem gebruikt een Transformer-backbone over ruimtetijdpatches voor het genereren van video?
- Een traditionele GAN
- OpenAI's Sora
- Een terugkerend neuraal netwerk
- Een beslisboommodel
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels