Questionário vinculado ao guia · Médio Nível

Questionário sobre transformadores de difusão

Explore tokens de patch DiT, condicionamento, dimensionamento, representações de espaço-tempo de vídeo e o custo de atenção de muitos tokens.

Caminhos de guia relacionadosTransformadores de Difusão
Pergunta 1 de 8

Qual componente um Transformador de Difusão substitui em comparação com os modelos de difusão tradicionais?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Qual componente um Transformador de Difusão substitui em comparação com os modelos de difusão tradicionais?
    • O denoiser convolucional U-Net
    • O codificador de texto
    • O decodificador de imagem
    • O cronograma de ruído
  2. Como um DiT transforma uma imagem em algo que um Transformer pode processar?
    • Ele converte pixels diretamente em palavras
    • Ele divide a imagem latente em patches tratados como tokens
    • Ele usa um token para toda a imagem
    • Ele converte a imagem em áudio primeiro
  3. O que o artigo original do DiT descobriu sobre o dimensionamento?
    • O desempenho estabiliza rapidamente com o tamanho
    • Modelos maiores sempre apresentam pior desempenho
    • O desempenho melhora de forma previsível à medida que o tamanho do modelo aumenta e o tamanho do patch diminui
    • O tamanho do patch não tem efeito
  4. Como os DiTs normalmente injetam condicionamento como timestep e prompt de texto?
    • Anexando-o como pixels extras
    • Ao treinar novamente o modelo em cada etapa
    • Através de um ramo convolucional separado
    • Através da normalização da camada adaptativa (adaLN)
  5. O que a inicialização 'adaLN-zero' realiza?
    • Faz com que cada bloco do Transformer comece como uma função de identidade para treinamento estável
    • Exclui as camadas de normalização
    • Congela todo o modelo
    • Ele zera a imagem de entrada
  6. Qual sistema conhecido usa um backbone Transformer em patches de espaço-tempo para geração de vídeo?
    • Um GAN tradicional
    • OpenAI de Sora
    • Uma rede neural recorrente
    • Um modelo de árvore de decisão
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels