แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบหม้อแปลงไฟฟ้าแบบกระจาย

สำรวจโทเค็นแพตช์ DiT การปรับสภาพ การปรับขนาด การแสดงพื้นที่-เวลาของวิดีโอ และค่าความสนใจของโทเค็นต่างๆ

เส้นทางแนะนำที่เกี่ยวข้องหม้อแปลงกระจาย
คำถาม 1 ของ 8

Diffusion Transformer แทนที่ส่วนประกอบใดเมื่อเปรียบเทียบกับรุ่น Diffusion แบบเดิม

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. Diffusion Transformer แทนที่ส่วนประกอบใดเมื่อเปรียบเทียบกับรุ่น Diffusion แบบเดิม
    • ตัวลดนอยเซอร์ U-Net แบบบิดเบี้ยว
    • ตัวเข้ารหัสข้อความ
    • เครื่องถอดรหัสภาพ
    • ตารางเสียงรบกวน
  2. DiT เปลี่ยนรูปภาพเป็นสิ่งที่ Transformer สามารถประมวลผลได้อย่างไร
    • มันแปลงพิกเซลเป็นคำโดยตรง
    • โดยจะแบ่งอิมเมจแฝงออกเป็นแพตช์ซึ่งถือเป็นโทเค็น
    • ใช้โทเค็นเดียวสำหรับทั้งภาพ
    • มันจะแปลงภาพเป็นเสียงก่อน
  3. เอกสาร DiT ต้นฉบับค้นพบอะไรเกี่ยวกับการปรับขนาด
    • ประสิทธิภาพจะสูงขึ้นอย่างรวดเร็วตามขนาด
    • โมเดลที่ใหญ่กว่ามักจะทำงานได้แย่กว่าเสมอ
    • ประสิทธิภาพดีขึ้นอย่างคาดการณ์ได้เมื่อขนาดของโมเดลเพิ่มขึ้นและขนาดแพตช์ลดลง
    • ขนาดแพทช์ไม่มีผล
  4. โดยทั่วไปแล้ว DiT จะใส่เงื่อนไขเช่นการบอกเวลาและข้อความแจ้งอย่างไร
    • โดยต่อท้ายเป็นพิกเซลพิเศษ
    • โดยการฝึกโมเดลใหม่ในแต่ละขั้นตอน
    • ผ่านสาขา convolutional ที่แยกจากกัน
    • ผ่านการปรับเลเยอร์มาตรฐาน (adaLN)
  5. การเริ่มต้น 'adaLN-zero' สำเร็จอะไร
    • มันทำให้บล็อก Transformer แต่ละตัวเริ่มต้นเป็นฟังก์ชันประจำตัวเพื่อการฝึกฝนที่มั่นคง
    • มันจะลบเลเยอร์การทำให้เป็นมาตรฐาน
    • มันค้างทั้งโมเดล
    • มันจะทำให้ภาพที่อินพุตเป็นศูนย์
  6. ระบบใดที่รู้จักกันดีใช้แกนหลักของ Transformer บนแพตช์กาลอวกาศสำหรับการสร้างวิดีโอ
    • GAN แบบดั้งเดิม
    • OpenAIของ Sora
    • โครงข่ายประสาทที่เกิดซ้ำ
    • แบบจำลองต้นไม้ตัดสินใจ
  7. Why can full self-attention become costly when a DiT processes many patches?
    • Its cost stays constant for any token count
    • It must retrain the U-Net at each denoising step
    • Its pairwise token comparisons grow quadratically with the number of tokens
    • It requires a separate language model for every patch
  8. After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
    • As one text token for an entire video
    • As only a sequence of audio waveforms
    • As a separate convolutional U-Net for each frame
    • They are reassembled and decoded back into pixels