Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ Diffusion Transformers

Εξερευνήστε DiT patch token, conditioning, κλιμάκωση, αναπαραστάσεις βίντεο χωροχρόνου και το κόστος προσοχής πολλών διακριτικών.

Σχετικές διαδρομές οδηγώνΜετασχηματιστές Διάχυσης
Ερώτηση 1 του 8

Ποιο εξάρτημα αντικαθιστά ένας μετασχηματιστής διάχυσης σε σύγκριση με τα παραδοσιακά μοντέλα διάχυσης;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Ποιο εξάρτημα αντικαθιστά ένας μετασχηματιστής διάχυσης σε σύγκριση με τα παραδοσιακά μοντέλα διάχυσης;
    • Το συνελικτικό U-Net denoiser
    • Ο κωδικοποιητής κειμένου
    • Ο αποκωδικοποιητής εικόνας
    • Το πρόγραμμα θορύβου
  2. Πώς ένα DiT μετατρέπει μια εικόνα σε κάτι που μπορεί να επεξεργαστεί ένας Transformer;
    • Μετατρέπει τα pixel απευθείας σε λέξεις
    • Διαχωρίζει την λανθάνουσα εικόνα σε μπαλώματα που αντιμετωπίζονται ως διακριτικά
    • Χρησιμοποιεί ένα διακριτικό για ολόκληρη την εικόνα
    • Μετατρέπει πρώτα την εικόνα σε ήχο
  3. Τι βρήκε το αρχικό χαρτί DiT σχετικά με την κλιμάκωση;
    • Η απόδοση αυξάνεται γρήγορα με το μέγεθος
    • Τα μεγαλύτερα μοντέλα έχουν πάντα χειρότερη απόδοση
    • Η απόδοση βελτιώνεται προβλέψιμα καθώς το μέγεθος του μοντέλου μεγαλώνει και το μέγεθος του μπαλώματος μειώνεται
    • Το μέγεθος του έμπλαστρου δεν έχει καμία επίδραση
  4. Πώς συνήθως τα DiT εισάγουν ρυθμίσεις όπως το χρονικό βήμα και η προτροπή κειμένου;
    • Προσθέτοντας το ως επιπλέον pixel
    • Με την επανεκπαίδευση του μοντέλου σε κάθε βήμα
    • Μέσω ξεχωριστού συνελικτικού κλάδου
    • Μέσω προσαρμοστικής κανονικοποίησης στρώματος (adaLN)
  5. Τι επιτυγχάνει η προετοιμασία «adaLN-zero»;
    • Κάνει κάθε μπλοκ Transformer να ξεκινά ως λειτουργία ταυτότητας για σταθερή προπόνηση
    • Διαγράφει τα επίπεδα κανονικοποίησης
    • Παγώνει ολόκληρο το μοντέλο
    • Μηδενίζει την εικόνα εισόδου
  6. Ποιο γνωστό σύστημα χρησιμοποιεί μια ραχοκοκαλιά Transformer πάνω από ενημερωμένες εκδόσεις χωροχρόνου για τη δημιουργία βίντεο;
    • Ένα παραδοσιακό GAN
    • OpenAI Sora
    • Ένα επαναλαμβανόμενο νευρωνικό δίκτυο
    • Ένα μοντέλο δέντρου αποφάσεων
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels