Vibadilishaji vya Usambazaji
Vibadilishaji vya Usambazaji (DiTs) hubadilisha U-Net ya kubadilisha katikati ya jenereta za picha na video kwa uti wa mgongo wa Transfoma.
Muhtasari
This architecture powers leading systems like Stable Diffusion 3 and OpenAI's Sora, and it scales remarkably well as you add compute.
Dive ya kina
Miundo ya mtawanyiko huzalisha picha kwa kuanzia kelele tupu na kuifanya tena kelele kuwa picha thabiti. Kwa miaka mingi mtandao unaofanya denoising hiyo ulikuwa U-Net, usanifu wa kimapinduzi. Diffusion Transformer, iliyoletwa na Peebles na Xie mnamo 2022, inachukua nafasi ya U-Net na Transfoma. Picha hiyo kwanza inabanwa katika nafasi iliyofichika, ikagawanywa katika viraka vidogo, na kila kiraka huwa ishara, kama maneno katika modeli ya lugha. Transformer kisha huchakata ishara hizi kwa kujishughulisha katika kila hatua ya denoising. Ugunduzi muhimu ulikuwa kwamba utendaji wa DiT unaboresha inavyotabirika unapoongeza ukubwa wa kielelezo na kupunguza ukubwa wa kiraka, kufuatia sheria safi za kuongeza alama. Uharibifu huu ndio maana mifumo ya maandishi-hadi-video na maandishi-hadi-picha ya hali ya juu kwa kiasi kikubwa imehamia kwenye migongo ya Transfoma.
Ufahamu wa Kiufundi
Ubunifu wa kimsingi ni jinsi DiTs huingiza hali kama vile hatua ya saa na kidokezo cha maandishi. Badala ya muunganisho rahisi, hutumia urekebishaji wa safu badilika (adaLN), ambapo mtandao hutabiri ukubwa na kuhama vigezo vya tabaka za kuhalalisha kutoka kwa mawimbi ya uwekaji. Lahaja ya adaLN-sifuri huanzisha hizi ili kila kizuizi kianze kama kazi ya utambulisho, kuleta mafunzo. Viraka hubanwa kuwa ishara, vikichakatwa na vizuizi vya kawaida vya Transfoma kwa umakini wa kibinafsi, kisha kuunganishwa tena na kubadilishwa kuwa pikseli.
Athari za kimkakati
Kasi na kiwango
Visual AI inaweza kufanya ukaguzi, ugunduzi na kazi za kuweka lebo kiotomatiki kwa kiwango.
Tengeneza chaguzi
Timu bunifu zinaweza kuiga dhana kwa haraka zaidi na masahihisho machache ya mikono.
Timu na mtiririko wa kazi
Uendeshaji unaweza kutumia ishara za picha na video ambazo hapo awali zilikuwa ngumu kuchakata.
Mustakabali wa Transfoma za Usambazaji
Transfoma za Usambazaji zinakuwa uti wa mgongo chaguo-msingi wa midia zalishaji. Muundo wao wa msingi wa tokeni huwafanya kuwa wa asili kwa kuunganisha picha, video, na hata kizazi cha aina nyingi chini ya usanifu mmoja unaoweza kupanuka. Utafiti unasukuma kuelekea video ndefu, azimio la juu zaidi, na umakini zaidi ili kudhibiti gharama ya mara nne ya tokeni nyingi. Tarajia muunganiko kati ya miundo ya lugha na maono, ambapo maelekezo sawa ya kuongeza ukubwa wa Transformer na miundomsingi hutumika, kuharakisha maendeleo katika miundo ya dunia na video shirikishi.
Utekelezaji wa Ulimwengu Halisi
OpenAI Sora ya Sora hutumia uti wa mgongo wa Transfoma kwenye viraka vya muda wa angani ili kutoa video za urefu wa dakika, za uaminifu wa hali ya juu kutoka kwa vidokezo vya maandishi.
Usambazaji Imara wa 3 hupitisha Kibadilishaji cha Usambazaji wa aina nyingi (MMDiT) ili kupatanisha vyema picha zinazozalishwa na maelezo ya kina ya maandishi.
Watafiti huongeza DiT hadi mabilioni ya vigezo na kuona ubora wa picha ukiboreka kwa kutabirika, wakiongoza maamuzi ya bajeti ya kukokotoa.
Studio hutumia muundo wa msingi wa DiT kupanua klipu fupi, ikichukua fremu za ziada za video kama ishara za ziada za kutoa sauti.
Hatari & Walinzi
Haki za picha na idhini zinaweza kuwa hatari za kisheria ikiwa asili haiko wazi.
Utendaji wa muundo unaweza kutofautiana katika mwangaza, idadi ya watu na mazingira.
Chanya za uwongo zinaweza kutotambuliwa isipokuwa viwango vya uaminifu vifuatiliwe.
Ramani ya Utekelezaji
Bainisha vigezo vya kukubalika vya usahihi, kumbukumbu na gharama za makosa.
Jaribu kwa kutumia data inayolingana na hali halisi ya uzalishaji.
Ongeza ukaguzi wa kibinadamu kwa utabiri wa chini au utabiri wa athari kubwa.
Fuatilia mtindo wa kuteleza na uthibitishe upya baada ya mabadiliko ya kamera au mkusanyiko wa data.
Endelea Kuchunguza
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Diffusion Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Mwongozo unaofuata
Mitandao ya Kibadilishaji anga
Maswali yanayoulizwa mara kwa mara
What is Diffusion Transformers?
Vibadilishaji vya Usambazaji (DiTs) hubadilisha U-Net ya kubadilisha katikati ya jenereta za picha na video kwa uti wa mgongo wa Transfoma. Usanifu huu unasimamia mifumo inayoongoza kama vile Usambazaji Imara wa 3 na OpenAI's Sora, na inakua vizuri sana unapoongeza hesabu.
Kibadilishaji cha Diffusion kinachukua nafasi gani ikilinganishwa na mifano ya kitamaduni ya uenezaji?
DiTs huchukua nafasi ya U-Net, mtandao wa ubadilishaji ambao ulifanya denoising, kwa uti wa mgongo wa Transfoma.
DiT inabadilishaje picha kuwa kitu ambacho Transformer inaweza kusindika?
Picha ya siri imegawanywa katika vipande vidogo, na kila kiraka kinakuwa ishara, sawa na maneno katika mfano wa lugha.
Karatasi ya asili ya DiT ilipata nini kuhusu kuongeza kiwango?
Ubora wa DiT huimarika kwa njia safi, inayoweza kutabirika unapoongeza hesabu za muundo na kutumia viraka vidogo, kwa kufuata sheria za kuongeza alama.
Je, DiTs huingiza vipi hali kama hatua ya saa na haraka ya maandishi?
DiTs hutumia urekebishaji wa safu inayoweza kubadilika ili kutabiri ukubwa na kubadilisha vigezo kwa tabaka za urekebishaji kutoka kwa mawimbi ya hali.
Je, uanzishaji wa 'adaLN-zero' unatimiza nini?
adaLN-sifuri huanzisha urekebishaji ili kila kizuizi hapo awali kifanye kama kitambulisho, ambacho hutulia na kuboresha mafunzo.