Quiz o transformatorach dyfuzyjnych

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jaki element zastępuje transformator dyfuzyjny w porównaniu z tradycyjnymi modelami dyfuzyjnymi?
   • Splotowy odszumiacz U-Net
   • Koder tekstu
   • Dekoder obrazu
   • Harmonogram hałasu
2. W jaki sposób DiT zmienia obraz w coś, co może przetworzyć Transformer?
   • Konwertuje piksele bezpośrednio na słowa
   • Dzieli ukryty obraz na fragmenty traktowane jako tokeny
   • Wykorzystuje jeden token dla całego obrazu
   • Najpierw konwertuje obraz na dźwięk
3. Co oryginalny artykuł DiT znalazł na temat skalowania?
   • Wydajność szybko spada wraz z rozmiarem
   • Większe modele zawsze działają gorzej
   • Wydajność poprawia się w przewidywalny sposób wraz ze wzrostem rozmiaru modelu i zmniejszeniem rozmiaru poprawki
   • Rozmiar poprawki nie ma wpływu
4. W jaki sposób DiT zazwyczaj wprowadzają uwarunkowania, takie jak krok czasowy i podpowiedź tekstowa?
   • Dołączając go jako dodatkowe piksele
   • Poprzez ponowne uczenie modelu na każdym kroku
   • Przez oddzielną gałąź splotową
   • Poprzez normalizację warstwy adaptacyjnej (adaLN)
5. Co daje inicjalizacja „adaLN-zero”?
   • Sprawia, że każdy blok transformatora zaczyna się jako funkcja tożsamości dla stabilnego treningu
   • Usuwa warstwy normalizacyjne
   • Zamraża cały model
   • Zerowanie obrazu wejściowego
6. Który dobrze znany system wykorzystuje szkielet Transformera poprzez poprawki czasoprzestrzeni do generowania wideo?
   • Tradycyjny GAN
   • OpenAI Sora
   • Powtarzająca się sieć neuronowa
   • Model drzewa decyzyjnego
7. Dlaczego pełna samouważność może być kosztowna, gdy DiT przetwarza wiele poprawek?
   • Jego koszt pozostaje stały dla dowolnej liczby żetonów
   • Musi przeszkolić sieć U-Net na każdym etapie odszumiania
   • Porównania tokenów parami rosną kwadratowo wraz z liczbą tokenów
   • Wymaga osobnego modelu językowego dla każdej łatki
8. Po przetworzeniu przez DiT poprawek obrazu ukrytego za pomocą bloków transformatora, co dzieje się z wynikami poprawek?
   • Jako jeden token tekstowy dla całego filmu
   • Jako tylko sekwencja przebiegów audio
   • Jako osobna splotowa sieć U dla każdej ramki
   • Są one ponownie składane i dekodowane z powrotem do pikseli