À suivreGuide suivant
Génération d'image en vidéo
IA visuelle
GUIDE DE L'IA Visuelle
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt.
Écoutez ce guideNarré par l'IA · ~2 min
This sequential procedure differs from masked parallel decoding.
PixelRNN/PixelCNN model conditional distributions over pixels in an ordered raster sequence. The original DALL·E work instead uses a discrete VAE to represent images as tokens and trains an autoregressive Transformer on text and image tokens; its paper reports a 250-million image-text-pair dataset. Such models sample tokens sequentially. MaskGIT uses a different masked-token iterative decoding approach to predict multiple tokens in parallel.
PixelCNN and PixelRNN model image pixels autoregressively in their published image-generation studies.
The original DALL·E paper tokenizes images with a discrete variational autoencoder before sequence modeling.
A causal attention mask prevents a Transformer decoder from using future image tokens during autoregressive prediction.
MaskGIT is a separate masked-token method that iteratively predicts many image tokens in parallel.
Compare autoregressive and parallel masked-image methods using matched image quality, compute and sampling conditions. Evaluate prompt alignment and artifacts on the intended domain. The cited papers establish their own architectures and experiments, not a universal winner or future deployment trend.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt. This sequential procedure differs from masked parallel decoding.
Les modèles autorégressifs factorisent l'image sous forme de séquence, prédisant chaque jeton ou pixel en fonction de tous les éléments générés avant lui.
Les systèmes modernes compressent l'image en jetons discrets (souvent via un encodeur de style VQ-VAE), puis prédisent cette séquence de jetons avec un transformateur.
PixelRNN et PixelCNN étaient des modèles autorégressifs pionniers qui scannaient et prédisaient les images pixel par pixel.
Le masquage causal empêche chaque position de s'occuper des futurs jetons, renforçant ainsi la factorisation de gauche à droite.
Étant donné que chaque jeton dépend des précédents, l’inférence doit s’exécuter jeton par jeton, ce qui rend la génération relativement lente.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Génération d'image en vidéo
IA visuelle