Rehber bağlantılı sınav · Orta Seviye
Difüzyon Transformatörleri Testi
DiT yama belirteçlerini, koşullandırmayı, ölçeklendirmeyi, video uzay-zaman temsillerini ve birçok belirtecin dikkat maliyetini keşfedin.
Soru 1 arasında 8
Geleneksel difüzyon modelleriyle karşılaştırıldığında Difüzyon Transformatörü hangi bileşenin yerini alır?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- Geleneksel difüzyon modelleriyle karşılaştırıldığında Difüzyon Transformatörü hangi bileşenin yerini alır?
- Evrişimli U-Net gürültü giderici
- Metin kodlayıcı
- Görüntü kod çözücü
- Gürültü programı
- DiT, bir görüntüyü Transformer'ın işleyebileceği bir şeye nasıl dönüştürür?
- Pikselleri doğrudan kelimelere dönüştürür
- Gizli görüntüyü jeton olarak değerlendirilen parçalara böler
- Resmin tamamı için bir jeton kullanır
- Önce görüntüyü sese dönüştürür
- Orijinal DiT makalesi ölçeklendirme hakkında ne buldu?
- Performans boyuta göre hızla değişiyor
- Daha büyük modeller her zaman daha kötü performans gösterir
- Model boyutu büyüdükçe ve yama boyutu küçüldükçe performans tahmin edilebileceği gibi artıyor
- Yama boyutunun etkisi yoktur
- DiT'ler genellikle zaman adımı ve metin istemi gibi koşullandırmayı nasıl enjekte eder?
- Ekstra piksel olarak ekleyerek
- Modeli her adımda yeniden eğiterek
- Ayrı bir evrişimsel dal aracılığıyla
- Uyarlanabilir katman normalizasyonu (adaLN) aracılığıyla
- 'adaLN-zero' başlatma işlemi neyi başarıyor?
- Her Transformer bloğunun istikrarlı eğitim için bir kimlik işlevi olarak başlatılmasını sağlar
- Normalleştirme katmanlarını siler
- Tüm modeli donduruyor
- Giriş görüntüsünü sıfırlar
- Hangi iyi bilinen sistem, video oluşturmak için uzay-zaman yamaları üzerinde Transformer omurgasını kullanıyor?
- Geleneksel bir GAN
- OpenAI'nin Sora'si
- Tekrarlayan bir sinir ağı
- Bir karar ağacı modeli
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels