Quiz lié à un guide · Moyen Niveau

Quiz sur les transformateurs de diffusion

Explorez les jetons de correctifs DiT, le conditionnement, la mise à l'échelle, les représentations spatio-temporelles vidéo et le coût d'attention de nombreux jetons.

Chemins de guidage associésTransformateurs de diffusion
Question 1 de 8

Quel composant un transformateur de diffusion remplace-t-il par rapport aux modèles de diffusion traditionnels ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Quel composant un transformateur de diffusion remplace-t-il par rapport aux modèles de diffusion traditionnels ?
    • Le débruiteur convolutif U-Net
    • L'encodeur de texte
    • Le décodeur d'images
    • L'horaire du bruit
  2. Comment un DiT transforme-t-il une image en quelque chose qu'un Transformer peut traiter ?
    • Il convertit les pixels directement en mots
    • Il divise l'image latente en patchs traités comme des jetons
    • Il utilise un jeton pour toute l'image
    • Il convertit d'abord l'image en audio
  3. Qu'a trouvé l'article original du DiT sur la mise à l'échelle ?
    • Les performances plafonnent rapidement avec la taille
    • Les modèles plus gros fonctionnent toujours moins bien
    • Les performances s'améliorent de manière prévisible à mesure que la taille du modèle augmente et que la taille des correctifs diminue
    • La taille du patch n'a aucun effet
  4. Comment les DiT injectent-ils généralement des conditionnements tels que le pas de temps et l'invite de texte ?
    • En l'ajoutant sous forme de pixels supplémentaires
    • En reformant le modèle à chaque étape
    • Via une branche convolutive distincte
    • Grâce à la normalisation adaptative des couches (adaLN)
  5. Qu'accomplit l'initialisation « adaLN-zero » ?
    • Chaque bloc Transformer démarre comme une fonction d'identité pour un entraînement stable.
    • Il supprime les couches de normalisation
    • Il gèle tout le modèle
    • Il met à zéro l'image d'entrée
  6. Quel système bien connu utilise un backbone Transformer sur des correctifs spatio-temporels pour la génération vidéo ?
    • Un GAN traditionnel
    • Sora de OpenAI
    • Un réseau de neurones récurrent
    • Un modèle d'arbre de décision
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels