VolgendeVolgende gids
Muse gemaskeerde generatieve beeldvorming
Visuele AI
Visuele AI-GIDS
Masked Autoencoders (MAE) are a self-supervised vision-pretraining method that reconstructs randomly masked image patches from visible patches.
Luister naar deze gidsAI-verteld · ~1 min
The MAE paper masks 75% of image patches, sends only visible patches to a Vision Transformer encoder, and uses a lightweight decoder to reconstruct the image. The reconstruction loss is computed on masked patches. After pretraining, the decoder can be discarded and the encoder fine-tuned for downstream vision tasks. These claims refer to the paper’s evaluated ImageNet and transfer settings, not applications in medical or satellite imagery.
The original MAE paper masks a high fraction of image patches during pretraining.
The encoder processes only visible patches, reducing encoder computation in the proposed design.
A lightweight decoder reconstructs masked pixels and is discarded after pretraining.
The paper evaluates pretrained representations on ImageNet-1K classification and downstream vision tasks.
When evaluating masked-image pretraining, report masking ratio, data, architecture and downstream task. The cited paper establishes image-pretraining experiments, not broad adoption across medical, satellite or video systems. Extensions to other modalities require their own evidence.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Masked Autoencoders (MAE) are a self-supervised vision-pretraining method that reconstructs randomly masked image patches from visible patches.
MAE verbergt de meeste beeldvlakken en traint het model om de ontbrekende pixels te reconstrueren, zonder dat er menselijke labels nodig zijn.
De originele MAE maskeert ongeveer 75% van de patches, een hoge verhouding die het model dwingt een betekenisvolle structuur te leren in plaats van buren te kopiëren.
Het overslaan van gemaskeerde tokens in de encoder vermindert de rekenkracht en het geheugen aanzienlijk, omdat deze slechts een klein deel van de patches verwerkt.
De lichtgewicht decoder is alleen nodig voor reconstructie tijdens de voortraining; daarna gaat de geleerde encoder over op taken zoals detectie.
MAE minimaliseert de gemiddelde kwadratische fout tussen voorspelde en werkelijke pixelwaarden, alleen berekend op de gemaskeerde plekken.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Muse gemaskeerde generatieve beeldvorming
Visuele AI