Gids-gekoppelde quiz · Middelmatig Niveau

Diffusie Transformers Quiz

Ontdek DiT-patchtokens, conditionering, schaling, videoruimte-tijdrepresentaties en de attentiekosten van veel tokens.

Gerelateerde gidspadenDiffusietransformatoren
Vraag 1 van 8

Welk onderdeel vervangt een diffusietransformator in vergelijking met traditionele diffusiemodellen?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Welk onderdeel vervangt een diffusietransformator in vergelijking met traditionele diffusiemodellen?
    • De convolutionele U-Net-denoiser
    • De tekstencoder
    • De beelddecoder
    • Het geluidsschema
  2. Hoe verandert een DiT een beeld in iets dat een Transformer kan verwerken?
    • Het converteert pixels rechtstreeks naar woorden
    • Het splitst het latente beeld in patches die als tokens worden behandeld
    • Er wordt één token gebruikt voor de hele afbeelding
    • Het converteert de afbeelding eerst naar audio
  3. Wat vond het originele DiT-artikel over schaalvergroting?
    • Prestatieplateaus nemen snel af naarmate de maat groter wordt
    • Grotere modellen presteren altijd slechter
    • De prestaties verbeteren voorspelbaar naarmate de modelgrootte groter wordt en de patchgrootte kleiner
    • De patchgrootte heeft geen effect
  4. Hoe injecteren DiTs doorgaans conditionering zoals de tijdstap en tekstprompt?
    • Door het toe te voegen als extra pixels
    • Door het model elke stap opnieuw te trainen
    • Via een aparte convolutionele tak
    • Via adaptieve laagnormalisatie (adaLN)
  5. Wat wordt met de 'adaLN-zero'-initialisatie bereikt?
    • Het zorgt ervoor dat elk Transformer-blok begint als een identiteitsfunctie voor stabiele training
    • Het verwijdert de normalisatielagen
    • Het bevriest het hele model
    • Het stelt het invoerbeeld op nul
  6. Welk bekende systeem gebruikt een Transformer-backbone over ruimtetijdpatches voor het genereren van video?
    • Een traditionele GAN
    • OpenAI's Sora
    • Een terugkerend neuraal netwerk
    • Een beslisboommodel
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels