ДаліНаступний посібник
Генерація зображення у відео
Візуальний ШІ
Візуальний AI GUIDE
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt.
Послухайте цей посібникШІ-розказаний · ~2 min
This sequential procedure differs from masked parallel decoding.
PixelRNN/PixelCNN model conditional distributions over pixels in an ordered raster sequence. The original DALL·E work instead uses a discrete VAE to represent images as tokens and trains an autoregressive Transformer on text and image tokens; its paper reports a 250-million image-text-pair dataset. Such models sample tokens sequentially. MaskGIT uses a different masked-token iterative decoding approach to predict multiple tokens in parallel.
PixelCNN and PixelRNN model image pixels autoregressively in their published image-generation studies.
The original DALL·E paper tokenizes images with a discrete variational autoencoder before sequence modeling.
A causal attention mask prevents a Transformer decoder from using future image tokens during autoregressive prediction.
MaskGIT is a separate masked-token method that iteratively predicts many image tokens in parallel.
Compare autoregressive and parallel masked-image methods using matched image quality, compute and sampling conditions. Evaluate prompt alignment and artifacts on the intended domain. The cited papers establish their own architectures and experiments, not a universal winner or future deployment trend.
Безплатний розсилок
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt. This sequential procedure differs from masked parallel decoding.
Авторегресійні моделі факторизують зображення як послідовність, передбачаючи кожен токен або піксель на основі всіх елементів, згенерованих до нього.
Сучасні системи стискають зображення в окремі маркери (часто через кодер у стилі VQ-VAE), а потім передбачають цю послідовність маркерів за допомогою трансформатора.
PixelRNN і PixelCNN були новаторськими моделями авторегресії, які сканували та передбачали зображення піксель за пікселем.
Причинно-наслідкове маскування блокує кожну позицію від звернення до майбутніх токенів, забезпечуючи розкладання зліва направо.
Оскільки кожен токен залежить від попередніх, висновок повинен запускатися маркер за маркером, що робить генерацію відносно повільною.
Продовжуйте вчитися
Інші посібники, вибрані для цієї теми
ДаліНаступний посібник
Генерація зображення у відео
Візуальний ШІ