Cuestionario vinculado a una guía · Medio Nivel

Prueba de transformadores de difusión

Explore los tokens de parches DiT, el condicionamiento, el escalado, las representaciones de espacio-tiempo en video y el costo de atención de muchos tokens.

Rutas de guía relacionadasTransformadores de difusión
Pregunta 1 de 8

¿Qué componente reemplaza un Transformador de Difusión en comparación con los modelos de difusión tradicionales?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué componente reemplaza un Transformador de Difusión en comparación con los modelos de difusión tradicionales?
    • El eliminador de ruido convolucional U-Net
    • El codificador de texto
    • El decodificador de imágenes
    • El horario del ruido
  2. ¿Cómo un DiT convierte una imagen en algo que un Transformer puede procesar?
    • Convierte píxeles directamente en palabras.
    • Divide la imagen latente en parches tratados como tokens.
    • Utiliza un token para toda la imagen.
    • Primero convierte la imagen a audio.
  3. ¿Qué encontró el artículo original del DiT sobre el escalado?
    • El rendimiento se estabiliza rápidamente con el tamaño
    • Los modelos más grandes siempre funcionan peor
    • El rendimiento mejora de forma predecible a medida que crece el tamaño del modelo y se reduce el tamaño del parche
    • El tamaño del parche no tiene ningún efecto
  4. ¿Cómo suelen los DiT inyectar condicionamientos como el paso de tiempo y el mensaje de texto?
    • Agregándolo como píxeles adicionales
    • Al volver a entrenar el modelo en cada paso
    • A través de una rama convolucional separada
    • Mediante normalización de capa adaptativa (adaLN)
  5. ¿Qué logra la inicialización 'adaLN-zero'?
    • Hace que cada bloque Transformer comience como una función de identidad para un entrenamiento estable.
    • Elimina las capas de normalización.
    • Congela todo el modelo.
    • Pone a cero la imagen de entrada.
  6. ¿Qué sistema conocido utiliza una red troncal Transformer sobre parches de espacio-tiempo para la generación de video?
    • Una GAN tradicional
    • OpenAI Sora
    • Una red neuronal recurrente
    • Un modelo de árbol de decisión
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels