Mai departeUrmătorul ghid
Generare imagine în video
Inteligența vizuală AI
GHID AI vizual
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt.
Ascultă acest ghidNarativ AI · ~2 min
This sequential procedure differs from masked parallel decoding.
PixelRNN/PixelCNN model conditional distributions over pixels in an ordered raster sequence. The original DALL·E work instead uses a discrete VAE to represent images as tokens and trains an autoregressive Transformer on text and image tokens; its paper reports a 250-million image-text-pair dataset. Such models sample tokens sequentially. MaskGIT uses a different masked-token iterative decoding approach to predict multiple tokens in parallel.
PixelCNN and PixelRNN model image pixels autoregressively in their published image-generation studies.
The original DALL·E paper tokenizes images with a discrete variational autoencoder before sequence modeling.
A causal attention mask prevents a Transformer decoder from using future image tokens during autoregressive prediction.
MaskGIT is a separate masked-token method that iteratively predicts many image tokens in parallel.
Compare autoregressive and parallel masked-image methods using matched image quality, compute and sampling conditions. Evaluate prompt alignment and artifacts on the intended domain. The cited papers establish their own architectures and experiments, not a universal winner or future deployment trend.
Buletin gratuit
Trei povești AI verificate în fiecare dimineață de zi lucrătoare, scrise în engleză simplă. Gratuit pentru totdeauna, fără reclame.
Un e-mail în fiecare zi lucrătoare. Dezabonare cu un singur clic. Nu vindem niciodată și nu împărtășim adresa ta.
Testează-te
Feedback instantaneu la fiecare răspuns și un certificat partajabil cu un ID verificabil după ce parcurgi un curs.
Susține educația AI gratuită. AI Understanding este o organizație nonprofit 501(c)(3) — fără reclame, fără barieră de plată, pentru totdeauna. Fă o donație
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt. This sequential procedure differs from masked parallel decoding.
Modelele autoregresive factorizează imaginea ca o secvență, prezicând fiecare simbol sau pixel pe baza tuturor elementelor generate înaintea acestuia.
Sistemele moderne comprimă imaginea în jetoane discrete (adesea printr-un codificator în stil VQ-VAE), apoi prezic acea secvență de jetoane cu un transformator.
PixelRNN și PixelCNN au fost modele de pionierat autoregresive care au scanat și prezis imagini pixel cu pixel.
Mascarea cauzală blochează fiecare poziție de a participa la viitoarele jetoane, impunând factorizarea de la stânga la dreapta.
Deoarece fiecare jeton depinde de cele anterioare, inferența trebuie să fie rulată jeton cu simbol, făcând generarea relativ lentă.
Continuați să învățați
Mai multe ghiduri alese pentru acest subiect
Mai departeUrmătorul ghid
Generare imagine în video
Inteligența vizuală AI