СледваСледващо ръководство
Генериране на изображение към видео
Визуален AI
РЪКОВОДСТВО за визуален AI
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt.
Чуйте това ръководствоAI-разказан · ~2 min
This sequential procedure differs from masked parallel decoding.
PixelRNN/PixelCNN model conditional distributions over pixels in an ordered raster sequence. The original DALL·E work instead uses a discrete VAE to represent images as tokens and trains an autoregressive Transformer on text and image tokens; its paper reports a 250-million image-text-pair dataset. Such models sample tokens sequentially. MaskGIT uses a different masked-token iterative decoding approach to predict multiple tokens in parallel.
PixelCNN and PixelRNN model image pixels autoregressively in their published image-generation studies.
The original DALL·E paper tokenizes images with a discrete variational autoencoder before sequence modeling.
A causal attention mask prevents a Transformer decoder from using future image tokens during autoregressive prediction.
MaskGIT is a separate masked-token method that iteratively predicts many image tokens in parallel.
Compare autoregressive and parallel masked-image methods using matched image quality, compute and sampling conditions. Evaluate prompt alignment and artifacts on the intended domain. The cited papers establish their own architectures and experiments, not a universal winner or future deployment trend.
Безплатен бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Autoregressive image models generate a sequence of visual tokens one at a time, conditioning each next token on earlier tokens and any text prompt. This sequential procedure differs from masked parallel decoding.
Авторегресивните модели факторизират изображението като последователност, предвиждайки всеки токен или пиксел въз основа на всички елементи, генерирани преди него.
Съвременните системи компресират изображението в отделни токени (често чрез енкодер в стил VQ-VAE), след което предвиждат тази последователност от токени с трансформатор.
PixelRNN и PixelCNN бяха пионери в авторегресивните модели, които сканират и прогнозират изображения пиксел по пиксел.
Причинно-следственото маскиране блокира всяка позиция от обръщане към бъдещи токени, налагайки факторизацията отляво надясно.
Тъй като всеки токен зависи от предишните, изводът трябва да изпълнява токен по токен, което прави генерирането сравнително бавно.
Продължавай да учиш
Още ръководства, избрани за тази тема
СледваСледващо ръководство
Генериране на изображение към видео
Визуален AI