DalšíDalší průvodce
Paralelní dekódování kostry myšlenek
Jazyk AI
Vizuální průvodce AI
MaskGIT generates images by predicting many tokens at once and selecting high-confidence predictions for subsequent refinement, replacing left-to-right generation with parallel iterations.
Poslechněte si tento návodAI-vyprávěný · ~2 min
Confidence is a model score used for selection, not a guarantee that a token is correct.
MaskGIT (Masked Generative Image Transformer), from Google in 2022, rethinks how token-based image models decode. Earlier transformers such as VQGAN generate tokens autoregressively, one at a time in raster order. MaskGIT instead trains with a masked modeling objective like BERT: random subsets of image tokens are hidden and the model learns to predict them simultaneously using bidirectional attention. At generation time it starts from a masked grid and decodes over a configured number of refinement iterations; the original paper reports examples using roughly 8 to 12 steps, but the count depends on the setup rather than defining the algorithm. Each step predicts masked tokens, keeps selected high-confidence predictions, and re-masks other positions. Confidence ranks candidates for the next iteration; it does not prove a prediction is correct.
Generování úplného obrazu v přibližně 8 až 12 paralelních krocích namísto stovek autoregresivních predikcí tokenů
Překreslení maskované oblasti fotografie přehodnocením pouze skrytých tokenů s okolním kontextem
Třída podmíněná syntéza obrazu na ImageNet v kvalitě konkurenceschopné mnohem pomalejším modelům
Slouží jako dekódovací páteř pro systémy převodu textu na obrázek, jako je MUSE Google, které potřebují rychlé generování
Paralelní iterativní dekódování MaskGIT inspirovalo vlnu neautoregresivních generátorů, včetně MUSE pro převod textu na obrázek a maskované přístupy pro video. Vzorec, který předpovídá tokeny paralelně a zpřesňuje v několika krocích, sedí mezi jednorázovými GAN a mnohakrokovou difúzí a nabízí laditelný kompromis mezi kvalitou a rychlostí. Očekávejte, že dekódování maskovaných tokenů se bude i nadále objevovat v rychlých multimodálních generátorech a systémech úprav, kde se přirozeně hodí malování a podmíněné výplně.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
MaskGIT generates images by predicting many tokens at once and selecting high-confidence predictions for subsequent refinement, replacing left-to-right generation with parallel iterations. Confidence is a model score used for selection, not a guarantee that a token is correct.
MaskGIT předpovídá všechny maskované tokeny současně s obousměrnou pozorností, na rozdíl od pomalého autoregresivního dekódování VQGAN zleva doprava.
MaskGIT skrývá náhodné podmnožiny tokenů a učí se je předvídat, což je maskovaný cíl modelování podobný BERT.
At each iteration, MaskGIT retains the predictions with the highest model confidence and re-masks other positions. Confidence is a ranking signal for selecting tokens, not proof that each selected token is correct.
The guide cites roughly 8 to 12 steps as an example from the original paper’s image-generation setups; the count is configuration-dependent rather than a universal requirement.
Kosinový plán odhalí několik tokenů dříve a více později, čímž vyvažuje kvalitu a rychlost napříč iteracemi.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Paralelní dekódování kostry myšlenek
Jazyk AI