Maswali yanayounganishwa na mwongozo · Kati Kiwango
Maswali ya Transfoma ya Usambazaji
Gundua tokeni za kiraka za DiT, uwekaji hali, kuongeza ukubwa, uwakilishi wa muda wa video, na gharama ya umakini ya tokeni nyingi.
Swali 1 ya 8
Kibadilishaji cha Diffusion kinachukua nafasi gani ikilinganishwa na mifano ya kitamaduni ya uenezaji?
Hakiki kila swali8 maswali
Majibu na maelezo huonekana unapojibu maswali.
- Kibadilishaji cha Diffusion kinachukua nafasi gani ikilinganishwa na mifano ya kitamaduni ya uenezaji?
- Kipunguza sauti cha U-Net cha ubadilishaji
- Kisimbaji cha maandishi
- Avkodare ya picha
- Ratiba ya kelele
- DiT inabadilishaje picha kuwa kitu ambacho Transformer inaweza kusindika?
- Inabadilisha saizi moja kwa moja hadi maneno
- Inagawanya picha iliyofichika kuwa viraka vilivyochukuliwa kama ishara
- Inatumia ishara moja kwa picha nzima
- Inabadilisha picha kuwa sauti kwanza
- Karatasi ya asili ya DiT ilipata nini kuhusu kuongeza kiwango?
- Utendaji tambarare haraka na saizi
- Mifano kubwa zaidi daima hufanya kazi mbaya zaidi
- Utendaji unaboreka kwa kutabirika kadiri ukubwa wa muundo unavyokua na saizi ya kiraka inapungua
- Ukubwa wa kiraka hauna athari
- Je, DiTs huingiza vipi hali kama hatua ya saa na haraka ya maandishi?
- Kwa kuiongeza kama saizi za ziada
- Kwa kufundisha tena mfano kila hatua
- Kupitia tawi tofauti la ubadilishaji
- Kupitia urekebishaji wa safu inayobadilika (adaLN)
- Je, uanzishaji wa 'adaLN-zero' unatimiza nini?
- Inafanya kila kizuizi cha Transfoma kuanza kama kazi ya utambulisho kwa mafunzo thabiti
- Inafuta tabaka za kuhalalisha
- Inafungia mfano mzima
- Huondoa picha ya ingizo
- Ni mfumo gani unaojulikana zaidi unaotumia uti wa mgongo wa Transfoma juu ya viraka vya angani kwa utengenezaji wa video?
- GAN ya jadi
- OpenAI ya Sora
- Mtandao wa neva unaojirudia
- Mfano wa mti wa uamuzi
- Why can full self-attention become costly when a DiT processes many patches?
- Its cost stays constant for any token count
- It must retrain the U-Net at each denoising step
- Its pairwise token comparisons grow quadratically with the number of tokens
- It requires a separate language model for every patch
- After a DiT processes latent image patches with its Transformer blocks, what happens to the patch outputs?
- As one text token for an entire video
- As only a sequence of audio waveforms
- As a separate convolutional U-Net for each frame
- They are reassembled and decoded back into pixels