แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบหม้อแปลงไฟฟ้าแบบกระจาย
สำรวจโทเค็นแพตช์ DiT การปรับสภาพ การปรับขนาด การแสดงพื้นที่-เวลาของวิดีโอ และค่าความสนใจของโทเค็นต่างๆ
คำถาม 1 ของ 8
Diffusion Transformer แทนที่ส่วนประกอบใดเมื่อเปรียบเทียบกับรุ่น Diffusion แบบเดิม
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- Diffusion Transformer แทนที่ส่วนประกอบใดเมื่อเปรียบเทียบกับรุ่น Diffusion แบบเดิม
- ตัวลดนอยเซอร์ U-Net แบบบิดเบี้ยว
- ตัวเข้ารหัสข้อความ
- เครื่องถอดรหัสภาพ
- ตารางเสียงรบกวน
- DiT เปลี่ยนรูปภาพเป็นสิ่งที่ Transformer สามารถประมวลผลได้อย่างไร
- มันแปลงพิกเซลเป็นคำโดยตรง
- โดยจะแบ่งอิมเมจแฝงออกเป็นแพตช์ซึ่งถือเป็นโทเค็น
- ใช้โทเค็นเดียวสำหรับทั้งภาพ
- มันจะแปลงภาพเป็นเสียงก่อน
- เอกสาร DiT ต้นฉบับค้นพบอะไรเกี่ยวกับการปรับขนาด
- ประสิทธิภาพจะสูงขึ้นอย่างรวดเร็วตามขนาด
- โมเดลที่ใหญ่กว่ามักจะทำงานได้แย่กว่าเสมอ
- ประสิทธิภาพดีขึ้นอย่างคาดการณ์ได้เมื่อขนาดของโมเดลเพิ่มขึ้นและขนาดแพตช์ลดลง
- ขนาดแพทช์ไม่มีผล
- โดยทั่วไปแล้ว DiT จะใส่เงื่อนไขเช่นการบอกเวลาและข้อความแจ้งอย่างไร
- โดยต่อท้ายเป็นพิกเซลพิเศษ
- โดยการฝึกโมเดลใหม่ในแต่ละขั้นตอน
- ผ่านสาขา convolutional ที่แยกจากกัน
- ผ่านการปรับเลเยอร์มาตรฐาน (adaLN)
- การเริ่มต้น 'adaLN-zero' สำเร็จอะไร
- มันทำให้บล็อก Transformer แต่ละตัวเริ่มต้นเป็นฟังก์ชันประจำตัวเพื่อการฝึกฝนที่มั่นคง
- มันจะลบเลเยอร์การทำให้เป็นมาตรฐาน
- มันค้างทั้งโมเดล
- มันจะทำให้ภาพที่อินพุตเป็นศูนย์
- ระบบใดที่รู้จักกันดีใช้แกนหลักของ Transformer บนแพตช์กาลอวกาศสำหรับการสร้างวิดีโอ
- GAN แบบดั้งเดิม
- OpenAIของ Sora
- โครงข่ายประสาทที่เกิดซ้ำ
- แบบจำลองต้นไม้ตัดสินใจ
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels