Als nächstesNächster Leitfaden
Parallele Dekodierung des Gedankenskeletts
Sprach-KI
Visueller KI-GUIDE
MaskGIT generates images by predicting many tokens at once and selecting high-confidence predictions for subsequent refinement, replacing left-to-right generation with parallel iterations.
Hören Sie sich diesen Leitfaden anKI-erzählt · ~2 min
Confidence is a model score used for selection, not a guarantee that a token is correct.
MaskGIT (Masked Generative Image Transformer), from Google in 2022, rethinks how token-based image models decode. Earlier transformers such as VQGAN generate tokens autoregressively, one at a time in raster order. MaskGIT instead trains with a masked modeling objective like BERT: random subsets of image tokens are hidden and the model learns to predict them simultaneously using bidirectional attention. At generation time it starts from a masked grid and decodes over a configured number of refinement iterations; the original paper reports examples using roughly 8 to 12 steps, but the count depends on the setup rather than defining the algorithm. Each step predicts masked tokens, keeps selected high-confidence predictions, and re-masks other positions. Confidence ranks candidates for the next iteration; it does not prove a prediction is correct.
Generieren eines vollständigen Bildes in etwa 8 bis 12 parallelen Schritten anstelle von Hunderten autoregressiver Token-Vorhersagen
Einmalen eines maskierten Bereichs eines Fotos durch erneute Vorhersage nur der verborgenen Token mit dem umgebenden Kontext
Klassenbedingte Bildsynthese auf ImageNet in konkurrenzfähiger Qualität mit viel langsameren Modellen
Dient als Dekodierungsrückgrat für Text-zu-Bild-Systeme wie MUSE von Google, die eine schnelle Generierung benötigen
Die parallele iterative Dekodierung von MaskGIT inspirierte eine Welle nicht-autoregressiver Generatoren, darunter MUSE für Text-zu-Bild und maskierte Ansätze für Videos. Das Muster, das Token parallel vorhersagt und über einige Schritte verfeinert, liegt zwischen One-Shot-GANs und mehrstufiger Diffusion und bietet einen einstellbaren Kompromiss zwischen Qualität und Geschwindigkeit. Erwarten Sie, dass die maskierte Token-Dekodierung weiterhin in schnellen multimodalen Generatoren und Bearbeitungssystemen auftritt, in denen In-Painting und bedingte Füllungen selbstverständlich sind.
Kostenloser Newsletter
Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.
Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.
Testen Sie sich selbst
Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.
Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende
MaskGIT generates images by predicting many tokens at once and selecting high-confidence predictions for subsequent refinement, replacing left-to-right generation with parallel iterations. Confidence is a model score used for selection, not a guarantee that a token is correct.
Im Gegensatz zur langsamen autoregressiven Links-nach-rechts-Dekodierung von VQGAN sagt MaskGIT alle maskierten Token gleichzeitig mit bidirektionaler Aufmerksamkeit voraus.
MaskGIT verbirgt zufällige Teilmengen von Token und lernt, diese vorherzusagen, ein maskiertes Modellierungsziel ähnlich wie BERT.
At each iteration, MaskGIT retains the predictions with the highest model confidence and re-masks other positions. Confidence is a ranking signal for selecting tokens, not proof that each selected token is correct.
The guide cites roughly 8 to 12 steps as an example from the original paper’s image-generation setups; the count is configuration-dependent rather than a universal requirement.
Ein Kosinusplan deckt wenige Token früh und mehr später auf und sorgt so für ein ausgewogenes Verhältnis von Qualität und Geschwindigkeit über die Iterationen hinweg.
Lerne weiter
Weitere Leitfäden zu diesem Thema ausgewählt
Als nächstesNächster Leitfaden
Parallele Dekodierung des Gedankenskeletts
Sprach-KI