Questionário vinculado ao guia · Médio Nível
Questionário sobre transformadores de difusão
Explore tokens de patch DiT, condicionamento, dimensionamento, representações de espaço-tempo de vídeo e o custo de atenção de muitos tokens.
Pergunta 1 de 8
Qual componente um Transformador de Difusão substitui em comparação com os modelos de difusão tradicionais?
Visualize cada pergunta8 perguntas
As respostas e explicações aparecem conforme você responde ao teste.
- Qual componente um Transformador de Difusão substitui em comparação com os modelos de difusão tradicionais?
- O denoiser convolucional U-Net
- O codificador de texto
- O decodificador de imagem
- O cronograma de ruído
- Como um DiT transforma uma imagem em algo que um Transformer pode processar?
- Ele converte pixels diretamente em palavras
- Ele divide a imagem latente em patches tratados como tokens
- Ele usa um token para toda a imagem
- Ele converte a imagem em áudio primeiro
- O que o artigo original do DiT descobriu sobre o dimensionamento?
- O desempenho estabiliza rapidamente com o tamanho
- Modelos maiores sempre apresentam pior desempenho
- O desempenho melhora de forma previsível à medida que o tamanho do modelo aumenta e o tamanho do patch diminui
- O tamanho do patch não tem efeito
- Como os DiTs normalmente injetam condicionamento como timestep e prompt de texto?
- Anexando-o como pixels extras
- Ao treinar novamente o modelo em cada etapa
- Através de um ramo convolucional separado
- Através da normalização da camada adaptativa (adaLN)
- O que a inicialização 'adaLN-zero' realiza?
- Faz com que cada bloco do Transformer comece como uma função de identidade para treinamento estável
- Exclui as camadas de normalização
- Congela todo o modelo
- Ele zera a imagem de entrada
- Qual sistema conhecido usa um backbone Transformer em patches de espaço-tempo para geração de vídeo?
- Um GAN tradicional
- OpenAI de Sora
- Uma rede neural recorrente
- Um modelo de árvore de decisão
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels