ДалееСледующее руководство
Генерация изображения в видео
Визуальный ИИ
Визуальное руководство по искусственному интеллекту
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt.
Прослушайте это руководствоОзвучено ИИ · ~2 min
This sequential procedure differs from masked parallel decoding.
PixelRNN/PixelCNN model conditional distributions over pixels in an ordered raster sequence. The original DALL·E work instead uses a discrete VAE to represent images as tokens and trains an autoregressive Transformer on text and image tokens; its paper reports a 250-million image-text-pair dataset. Such models sample tokens sequentially. MaskGIT uses a different masked-token iterative decoding approach to predict multiple tokens in parallel.
PixelCNN and PixelRNN model image pixels autoregressively in their published image-generation studies.
The original DALL·E paper tokenizes images with a discrete variational autoencoder before sequence modeling.
A causal attention mask prevents a Transformer decoder from using future image tokens during autoregressive prediction.
MaskGIT is a separate masked-token method that iteratively predicts many image tokens in parallel.
Compare autoregressive and parallel masked-image methods using matched image quality, compute and sampling conditions. Evaluate prompt alignment and artifacts on the intended domain. The cited papers establish their own architectures and experiments, not a universal winner or future deployment trend.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt. This sequential procedure differs from masked parallel decoding.
Модели авторегрессии факторизуют изображение как последовательность, предсказывая каждый токен или пиксель на основе всех элементов, сгенерированных до него.
Современные системы сжимают изображение в дискретные токены (часто с помощью кодера в стиле VQ-VAE), а затем прогнозируют эту последовательность токенов с помощью преобразователя.
PixelRNN и PixelCNN были новаторскими моделями авторегрессии, которые сканировали и прогнозировали изображения попиксельно.
Причинная маскировка блокирует каждую позицию от внимания к будущим токенам, обеспечивая факторизацию слева направо.
Поскольку каждый токен зависит от предыдущих, вывод должен выполняться токен за токеном, что делает генерацию сравнительно медленной.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Генерация изображения в видео
Визуальный ИИ