拡散トランスフォーマークイズ

クイズに答えると、答えと解説が表示されます。

1. 従来の拡散モデルと比較して、拡散トランスはどのコンポーネントを置き換えますか?
   • 畳み込み U-Net デノイザー
   • テキストエンコーダー
   • 画像デコーダ
   • 騒音スケジュール
2. DiT はどのようにして画像を Transformer が処理できるものに変換するのでしょうか?
   • ピクセルを直接単語に変換します
   • 潜在イメージをトークンとして扱われるパッチに分割します。
   • 画像全体に対して 1 つのトークンを使用します
   • まず画像を音声に変換します
3. DiT の元の論文では、スケーリングについて何がわかりましたか?
   • サイズが大きくなるとパフォーマンスがすぐに頭打ちになる
   • 大きなモデルは常にパフォーマンスが悪くなります
   • モデルのサイズが大きくなり、パッチのサイズが小さくなると、予想どおりパフォーマンスが向上します。
   • パッチのサイズは影響しません
4. DiT は通常、タイムステップやテキスト プロンプトなどの条件付けをどのように挿入しますか?
   • 追加ピクセルとして追加することで
   • 各ステップでモデルを再トレーニングすることで
   • 別の畳み込みブランチ経由
   • アダプティブ レイヤー正規化 (adaLN) による
5. 「adaLN-zero」初期化は何を実現しますか?
   • 各 Transformer ブロックを恒等関数として開始し、安定したトレーニングを実現します。
   • 正規化レイヤーを削除します
   • モデル全体がフリーズします
   • 入力画像をゼロにします
6. ビデオ生成に時空パッチ上で Transformer バックボーンを使用している有名なシステムはどれですか?
   • 従来の GAN
   • OpenAI の Sora
   • リカレント ニューラル ネットワーク
   • デシジョンツリーモデル
7. Why can full self-attention become costly when a DiT processes many patches?
   • Its cost stays constant for any token count
   • It must retrain the U-Net at each denoising step
   • Its pairwise token comparisons grow quadratically with the number of tokens
   • It requires a separate language model for every patch
8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
   • As one text token for an entire video
   • As only a sequence of audio waveforms
   • As a separate convolutional U-Net for each frame
   • They are reassembled and decoded back into pixels