Résumé
Masked Autoencoders (MAE) xeetu xam-xam la buñuy saytu seen bopp, di jàngal modelu gis-gis bi ñu defaraat nataal yi ginaaw bi ñu nëbbee li ëpp ci nataal yi. Su model bi jàngee joxe leeral ci barab yu amul dara, dafay tabax xam-xam bu xóot te amul benn etiketu nit.
Masked Autoencoders bokk na ci liggéey yiy wane ordinatër, di tekki wala defar ay mejaa yuñy xool ngir jàngat, liggéey ak sos lu bees.
Plongeur bu xóot
Autoencoders yu maskeer, yu Kaiming He ak ay naataango ci Meta AI dugal ci 2021, dañuy jël benn nataal, xaaj ko ay pàcc yu ndaw, ba noppi nëbb ci lu bari ci ñoom, lu bari ci 75%. Encoder Vision Transformer dafay liggéey ci patch yiñ mëna gis, waaye decoder bu woyof bi dafay jéema defaraat pixel yi fi ñàkk. Ndax barina luñu nëbb, model bi mënul kopie pixel yi ci wetam rek, te dafa wara jàng structure yu am solo, lu melni jëmm ak cër yi. Encoder bi dafay sànni ay patch yuñ maske, dafay tax tàggat yaram bi gaaw, ba noppi sakkanal mémoire bi. Ginaaw ñu ko tàggatee, dañuy sànni dekodeer bi, enkodeer bi daal di koy toxal bu baax ci wàllu xaaj, gis ak xaaj.
Gis-gis xarala
Li gëna am solo mooy asymétrie: encoder bu diis bi dafay gis 25% ci patch yi maskewul, waaye decoder bu ndaw bi dafay defaraat leneen li. Patch yi dañu leen platre, dugal leen ci ligne, ba noppi ñu jox leen encodage positionnel. Perte ci tabaxaat bi mooy njuumte kaare moyen bi ñuy xayma ci patch yuñ maske rek, rawatina ci valeur pixel yuñ normalisee. Rasio masking yu kawe yi dañuy forse njàngum semantik moo gën interpolation bu woyof, ba noppi sànni token masked yi ci encoder bi dafay dagg ordinatër bi bu baax moo gën defar nataal bi yépp.
Xam autoencodeur yu maske
Masked Autoencoders (MAE) xeetu xam-xam la buñuy saytu seen bopp, di jàngal modelu gis-gis bi ñu defaraat nataal yi ginaaw bi ñu nëbbee li ëpp ci nataal yi. Su model bi jàngee joxe leeral ci barab yu amul dara, dafay tabax xam-xam bu xóot te amul benn etiketu nit. Masked Autoencoders bokk na ci liggéey yiy wane ordinatër, di tekki wala defar ay mejaa yuñy xool ngir jàngat, liggéey ak sos lu bees. Ngir tabax xam-xam bu xóot, jàppal Masked Autoencoders ni xeetu liggéey, du benn man-man: leeral njariñ yi nga bëgg, leeral xalaat yi, ak tàqale li sistem bi mëna def ci anam wu wóor ak li ba leegi soxla àtteb kàngam.
Ci jëf, ekip yu am doole yiy jëfandikoo Masked Autoencoders dañuy ekilibre njub ak dëggantaanu liggéey bu melni kalite done, faraasu leeral, ak méngoo etiketu. Dañuy bind kritër yu leer ngir am ndam, natt leen ci done yu dëggu ak def liggéey, ba noppi ñu baamtu ci anamu ñàkka mëna seetlu, du ci benn yoon benchmark wins. Mooy barab bi xam-xam theorie bi di soppiku nekk kàttan buy yàgg ci produit yi, ci politik yi ak ci liggéey yi.
Visual IA mën na otomatise saytu, gis ak etiketu liggéey ci eskaal. Ci jamano jooju, yelleefi nataal ak nangu mën na nekk risku yoon sudee fimu bawoo leerul. Xeetu jëf bi gëna dëgër mooy boole gaawaayu jàngat ak disipline nguur: doxal pilote, jàpp firnde, siiwal dogal yi, ak wéy di yeesal kaaraange gi ci anam wi ñuy doxalee, li jëfandikukat bi di xaar, ak sàrti sàrt yi di jëm kanam.
njeextalu pexe
Visual IA mën na otomatise saytu, gis ak etiketu liggéey ci eskaal.
Visual IA mën na otomatise saytu, gis ak etiketu liggéey ci eskaal. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Ekipu kreatif yi mën nañu defar konsept yu gëna gaaw te duñu def lu bari ci loxo.
Ekipu kreatif yi mën nañu defar konsept yu gëna gaaw te duñu def lu bari ci loxo. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Liggéeyukaay yi mën nañu jëfandikoo siñaal nataal wala wideo yu jafewoon lool ci liggéey.
Liggéeyukaay yi mën nañu jëfandikoo siñaal nataal wala wideo yu jafewoon lool ci liggéey. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Doxal ci àdduna dëgg
Taggat ab Transformatëru gis-gis ci ay milioŋ ciy nataal yuñu etiketewul, ba noppi nga defar ko bu baax ngir mëna tànnal ImageNet ci anam wu jaar yoon
Jàng man-mani yi ci scanner medikaal yi amul etiketu (rayon X, MRI) fu annotation eksper yi seer lool te bariwul
Defar anam wi ci wideo ci maskeer ay patch espace-temps ngir tàggat xeetu xàmmee jëf (VideoMAE)
Tàggat bu njëkk ci satelit ak nataali jawwu ji ngir jàppale jëfandikoo kàrtu suuf ak gis coppite te du am etiketu loxo
Modèlu jëfandikoo
Autoencodeurs masqués en pratique
Taggat ab Transformatëru gis-gis ci ay milioŋ ciy nataal yu amul etiketu, ba noppi nga defar ko bu baax ngir mëna tànnal ImageNet ci anam wu jaar yoon.
Pretraining a Vision Transformer ci ay milioŋ ciy nataal yu amul etiketu, ba noppi defar ko bu baax ngir ImageNet classification ak njubte bu dëgër. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee thresholds yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bi.
Autoencodeurs masqués en pratique
Jàng man-mani yi ci scanner medikaal yiñ amul etiket (rayon X, MRI) fu annotation expert yi seer lool te bariwul.
Jàng man-mani yi ci scanner medikaal yu amul etiketu (rayon X, MRIs) fu annotation expert yi seer lool te bariwul. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bi.
Autoencodeurs masqués en pratique
Defar anam wi ci wideo ci maskeer ay patch espace-temps ngir tàggat xeetu jëf-xàmmee (VideoMAE).
Defar njubluwaay bi ci wideo ci maskeer ay patch spacetime ngir tàggat xeetu jëf-xàmmee (VideoMAE) Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bi.
Autoencodeurs masqués en pratique
Tàggat bu njëkk ci satelit ak nataali jawwu ji ngir jàppale kàrtu jëfandikoo suuf ak gis coppite te du am etiketu loxo.
Pretraining ci satelit ak nataal aérien ngir jàppale jëfandikoo suuf ak gis coppite te du am etiketu loxo. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit yi ak njëgu njuumte yi ci diir bu gàtt.
Risk yi ak balustrade yi
Yelleefi nataal ak nangu mën na nekk risku yoon sudee fi ñu bawoo leerul.
Performance model bi mën na wuute ci leeraay bi, demographie bi ak environmaa bi.
Njuumteg positive yi mën nañu dem te kenn duko seetlu fileek xool wuñu buntu wóolu sa bopp.
Roadmap ngir samp gi
Mandargal kritërium nangug njub, woowaat ak njëgu njuumte.
Mandargal kritërium nangug njub, woowaat ak njëgu njuumte. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Saytu ak done yu méngoo ak anam yi ñuy liggéeyee dëgg.
Saytu ak done yu méngoo ak anam yi ñuy liggéeyee dëgg. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Yokk jàngat nit ngir xam fu wóorul dara wala am njeexital yu rëy.
Yokk jàngat nit ngir xam fu wóorul dara wala am njeexital yu rëy. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Toppal model drift bi nga baaxal ko ginaaw bi kamera bi wala done yi soppeekoo.
Toppal model drift bi nga baaxal ko ginaaw bi kamera bi wala done yi soppeekoo. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.