Awọn koodu ti ko boju mu
Masked Autoencoders (MAE) jẹ ọna abojuto ti ara ẹni ti o nkọ awoṣe iran lati tun awọn aworan ṣe lẹhin pupọ julọ aworan naa ti farapamọ.
Akopọ
By learning to fill in the blanks, the model builds rich visual understanding without any human labels.
Jin Dive
Masked Autoencoders, ti a ṣe nipasẹ Kaiming He ati awọn alabaṣiṣẹpọ ni Meta AI ni 2021, ya aworan kan, pin si awọn abulẹ kekere, ki o tọju ida kan ti o tobi pupọ ninu wọn laileto, nigbagbogbo 75%. Ayipada Amunawa iran kan ṣe ilana awọn abulẹ ti o han nikan, lakoko ti oluyipada iwuwo fẹẹrẹ gbiyanju lati tun awọn piksẹli atilẹba ti awọn ti o padanu. Nitoripe pupọ ti farapamọ, awoṣe ko le daakọ awọn piksẹli to wa nitosi ati pe o gbọdọ kọ ẹkọ eto ti o nilari, bii awọn apẹrẹ ati awọn ẹya nkan. Awọn koodu fifipamọ awọn abulẹ ti o boju mu ki ikẹkọ yarayara ati iranti daradara. Lẹhin ikẹkọ iṣaaju, oluyipada naa jẹ asonu ati pe koodu koodu gbe ni agbara si isọdi, wiwa, ati awọn iṣẹ ṣiṣe ipin.
Imọ-imọ-ẹrọ
Ẹtan bọtini jẹ asymmetry: koodu koodu ti o wuwo n rii nikan 25% ti a ko tii ti awọn abulẹ, lakoko ti ẹrọ iyipada kekere tun ṣe iyoku. Awọn abulẹ ti wa ni pẹlẹbẹ, ti a fi sii laini, ati fifun awọn koodu ipo ipo. Pipadanu atunkọ jẹ iṣiro aṣiṣe onigun mẹrin ti a ṣe iṣiro nikan lori awọn abulẹ ti o boju, ni igbagbogbo lori awọn iye ẹbun deede. Awọn ipin iboju iparada giga fi agbara mu ẹkọ atunmọ dipo isọdi ipele kekere, ati fo awọn ami ti o boju-boju ni awọn gige koodu koodu ṣe iṣiro bosipo dipo ṣiṣiṣẹ aworan ni kikun.
Ipa Ilana
Iyara ati iwọn
Visual AI le ṣe adaṣe adaṣe, wiwa, ati awọn iṣẹ ṣiṣe taagi ni iwọn.
Kọ awọn yiyan
Awọn ẹgbẹ ẹda le ṣe apẹrẹ awọn imọran yiyara pẹlu awọn atunyẹwo afọwọṣe diẹ.
Ẹgbẹ ati ṣiṣan iṣẹ
Awọn iṣẹ ṣiṣe le lo aworan ati awọn ifihan agbara fidio ti o nira tẹlẹ lati ṣiṣẹ.
Ojo iwaju ti awọn boju-boju Autoencoders
Atunkọ boju-boju ara MAE ti di ohunelo iṣaju iṣaju aiyipada kọja awọn ipo. Awọn oniwadi n fa siwaju si fidio (fifipamọ awọn cubes akoko aaye), awọn iwoye ohun afetigbọ, awọn ọlọjẹ iṣoogun, ati aworan satẹlaiti, nibiti awọn aami ti ṣọwọn ati gbowolori. Reti idapọ ju pẹlu ede fun awọn awoṣe ipilẹ multimodal, awọn decoders daradara diẹ sii, ati iboju iparada ti o fojusi awọn agbegbe alaye. Bi iṣiro ṣe n dagba, ikẹkọ ti ko boju mu lori awọn ikojọpọ aworan ti ko ni aami yẹ ki o tẹsiwaju ilọsiwaju deede ni isalẹ lakoko ti o dinku igbẹkẹle lori asọye eniyan ti o niyelori.
Real-World imuse
Ṣiṣe ikẹkọ Ayipada Iran kan lori awọn miliọnu awọn fọto ti ko ni aami, lẹhinna yiyi pada dara fun ipinya ImageNet pẹlu iṣedede to lagbara
Awọn ẹya ikẹkọ lati awọn ọlọjẹ iṣoogun ti ko ni aami (awọn egungun X-ray, MRIs) nibiti asọye amoye ti gbowolori ati ni opin
Didara ọna si fidio nipasẹ bojuboju awọn abulẹ akoko aaye lati ṣaju awọn awoṣe ṣiṣe-idanimọ (VideoMAE)
Ikẹkọ tẹlẹ lori satẹlaiti ati aworan eriali lati ṣe atilẹyin aworan agbaye-lilo ati wiwa wiwa laisi awọn aami afọwọṣe
Awọn ewu & Awọn ọna iṣọ
Awọn ẹtọ aworan ati igbanilaaye le di awọn eewu labẹ ofin ti o ba jẹ afihan.
Iṣe awoṣe le yatọ kọja ina, awọn ẹda eniyan, ati awọn agbegbe.
Awọn idaniloju eke le ma ṣe akiyesi ayafi ti a ba ṣe abojuto awọn ala igbẹkẹle.
Ilana Ilana imuse
Ṣetumo awọn ibeere gbigba fun pipe, iranti, ati awọn idiyele aṣiṣe.
Ṣe idanwo pẹlu data ti o baamu awọn ipo iṣelọpọ gidi.
Ṣafikun atunyẹwo eniyan fun igbẹkẹle kekere tabi awọn asọtẹlẹ ipa-giga.
Tọpinpin awoṣe ki o ṣe tunṣe lẹhin kamẹra tabi awọn ayipada datasetto.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Masked Autoencoders quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Muse Masked Generative Aworan
Awọn ibeere ti a beere nigbagbogbo
What is Masked Autoencoders?
Masked Autoencoders (MAE) jẹ ọna abojuto ti ara ẹni ti o nkọ awoṣe iran lati tun awọn aworan ṣe lẹhin pupọ julọ aworan naa ti farapamọ. Nipa kikọ ẹkọ lati kun awọn ṣofo, awoṣe naa kọ oye wiwo ọlọrọ laisi awọn aami eniyan eyikeyi.
Kini iṣẹ-ṣiṣe ti ara ẹni ti o ni abojuto mojuto ni Autoencoder Masked?
MAE tọju ọpọlọpọ awọn abulẹ aworan ati ikẹkọ awoṣe lati tun awọn piksẹli ti o padanu, ko nilo awọn aami eniyan.
Ni aijọju kini ida ti awọn abulẹ aworan ṣe MAE atilẹba ṣe boju-boju jade bi?
Awọn iboju iparada MAE atilẹba ni ayika 75% ti awọn abulẹ, ipin giga ti o fi ipa mu awoṣe lati kọ ẹkọ eto ti o nilari ju daakọ awọn aladugbo.
Kilode ti ilana koodu koodu MAE nikan ni awọn abulẹ ti o han (ti ko boju mu)?
Foju awọn ami ti o boju-boju ninu koodu koodu n dinku iṣiro ati iranti pupọ, niwọn bi o ti n kapa ida kekere ti awọn abulẹ nikan.
Kini yoo ṣẹlẹ si decoder lẹhin ikẹkọ iṣaaju MAE ti pari?
Oluyipada iwuwo fẹẹrẹ nilo nikan fun atunkọ lakoko ikẹkọ iṣaaju; lẹhinna koodu koodu ti kọ ẹkọ n gbe lọ si awọn iṣẹ ṣiṣe bii wiwa.
Iṣẹ ipadanu wo ni MAE maa n lo fun atunkọ?
MAE dinku tumọ si aṣiṣe onigun mẹrin laarin asọtẹlẹ ati awọn iye ẹbun otitọ, ṣe iṣiro nikan lori awọn abulẹ ti o boju-boju.