Imọ Itọsọna

BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ

BYOL (Bootstrap Tirẹ Latent) kọ ẹkọ awọn aṣoju aworan ti o wulo laisi eyikeyi awọn akole ati, iyalẹnu, laisi awọn apẹẹrẹ odi.

Akopọ

BYOL (Bootstrap Tirẹ Latent) kọ ẹkọ awọn aṣoju aworan ti o wulo laisi eyikeyi awọn akole ati, iyalẹnu, laisi awọn apẹẹrẹ odi. O fihan pe ẹkọ ti o ni abojuto ti ara ẹni ko nilo lati gbẹkẹle titari si awọn aworan ti o yatọ, ni ilodi si iwulo fun awọn ipele nla ti awọn odi.

BYOL ati Abojuto ti ara ẹni ti kii ṣe Kokoro jẹ bulọọki ile imọ-ẹrọ ti o kan didara awoṣe, idiyele amayederun, lairi, ati igbẹkẹle ni iwọn.

Jin Dive

Pupọ julọ awọn ọna abojuto ti ara ẹni ni kutukutu jẹ iyatọ: wọn fa awọn iwo afikun meji ti aworan kanna papọ lakoko titari awọn aworan oriṣiriṣi yato si, eyiti o nilo ọpọlọpọ awọn apẹẹrẹ odi lati yago fun iṣubu (nibiti nẹtiwọọki n ṣe agbejade fekito kanna fun ohun gbogbo). BYOL, lati DeepMind ni ọdun 2020, yọkuro awọn odi patapata. O nlo awọn nẹtiwọki meji: nẹtiwọki ori ayelujara ati nẹtiwọki afojusun kan. Awọn iwo afikun meji ti aworan kan lọ nipasẹ awọn nẹtiwọọki meji; Nẹtiwọọki ori ayelujara n ṣafikun ori asọtẹlẹ ati pe o ni ikẹkọ lati ṣe asọtẹlẹ aṣoju nẹtiwọọki ibi-afẹde ti iwo miiran. Ni pataki, awọn iwuwo nẹtiwọọki ibi-afẹde ko jẹ ikẹkọ nipasẹ irandiwọn. Dipo wọn jẹ aropin gbigbe alapin (EMA) ti awọn iwuwo ori ayelujara. Asymmetry yii pẹlu ibi-afẹde EMA ṣe idilọwọ awọn ọna idayatọ iṣubu bintin ti o bẹru, ibaamu tabi lilu awọn ipilẹ itansan lori ImageNet.

Imọ-imọ-ẹrọ

Awọn eroja mẹta da duro laisi awọn odi: MLP asọtẹlẹ afikun lori ẹka ori ayelujara, idaduro-gradient lori ẹka ibi-afẹde, ati ibi-afẹde imudojuiwọn-EMA. Ibi-afẹde naa n ṣiṣẹ bi ibi-afẹde ipadasẹhin gbigbe laiyara, nitorinaa nẹtiwọọki ori ayelujara n lepa iduroṣinṣin, ibi-afẹde aisun dipo ẹda gbigbe ti ararẹ. Asymmetry ti asọtẹlẹ fọ ami-ami-ara ti yoo bibẹẹkọ jẹ ki awọn ẹka mejeeji jade lainidi igbagbogbo. Iṣe deede ipele ninu pirojekito tun ṣe alabapin isọdi deede.

Titunto si BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ

BYOL (Bootstrap Tirẹ Latent) kọ ẹkọ awọn aṣoju aworan ti o wulo laisi eyikeyi awọn akole ati, iyalẹnu, laisi awọn apẹẹrẹ odi. O fihan pe ẹkọ ti o ni abojuto ti ara ẹni ko nilo lati gbẹkẹle titari si awọn aworan ti o yatọ, ni ilodi si iwulo fun awọn ipele nla ti awọn odi. BYOL ati Abojuto ti ara ẹni ti kii ṣe Kokoro jẹ bulọọki ile imọ-ẹrọ ti o kan didara awoṣe, idiyele amayederun, lairi, ati igbẹkẹle ni iwọn. Lati kọ oye ti o jinlẹ, tọju BYOL ati Abojuto Ara-ẹni ti ko ni iyatọ bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣe alaye awọn arosọ, ati sọtọ ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.

Ni iṣe, awọn ẹgbẹ ti o lagbara ti o nlo BYOL ati Abojuto Ara-ẹni ti kii ṣe Iyatọ ṣe iṣapeye faaji, data, ati awọn yiyan amayederun lodi si igbẹkẹle ati idiyele. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.

Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun. Ni akoko kanna, Imudara iwọn ala kan le tọju awọn ailagbara eto to gbooro. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.

Ipa Ilana

Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun.

Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.

Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan.

Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.

Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ.

Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.

Ojo iwaju ti BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ

Awọn imọran ti ko ni iyatọ ni bayi daduro pupọ ti iran abojuto ti ara ẹni. SimSiam yọ BYOL silẹ siwaju, fifihan ibi-afẹde EMA ko nilo ni muna ti o ba tọju idaduro-gradient, oye ti o jinlẹ ti idi ti a yago fun iṣubu. Reti awọn ilana ikẹkọ ti ko ni aami wọnyi lati tọju iṣọpọ pẹlu iṣapẹẹrẹ aworan iboju-boju ati ikẹkọ multimodal, ati lati tan kaakiri si fidio, ohun, aworan iṣoogun, ati awọn ẹrọ roboti nibiti awọn aami ti ṣọwọn tabi gbowolori, nigbagbogbo bi ipele iṣaju ṣaaju iṣatunṣe iwuwo fẹẹrẹ ni abojuto abojuto to dara.

Real-World imuse

Ṣiṣe ikẹkọ ẹhin iran lori awọn miliọnu awọn fọto ti ko ni aami, lẹhinna yiyi ti o dara julọ lori iwe data ti o ni aami-iṣoogun-iṣoro nibiti awọn asọye amoye ti ṣọwọn.

Awọn ẹya iwoye roboti ẹkọ lati awọn ṣiṣan kamẹra aise laisi aami-ọwọ, idinku idiyele ti awọn iṣẹ ifọwọyi ikọni.

Ṣiṣe atunṣe aworan ati awọn ọna ṣiṣe idinkuro nipa lilo awọn ifibọ BYOL ti o ṣe akojọpọ awọn aworan ti o jọra laisi eyikeyi awọn aami kilasi.

Bibẹrẹ satẹlaiti tabi awọn awoṣe aworan eriali lori awọn ile-ipamọ ti ko ni aami pupọ ṣaaju iṣatunṣe itanran fun lilo ilẹ tabi ipagborun isọdi.

Awọn Ilana imuse

BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ ninu iṣe

Ṣiṣe ikẹkọ ẹhin iran lori awọn miliọnu awọn fọto ti ko ni aami, lẹhinna yiyi ti o dara julọ lori iwe data ti o ni aami-iṣoogun-iṣoro nibiti awọn asọye amoye ti ṣọwọn.

Ṣiṣe ikẹkọ ẹhin iran lori awọn miliọnu awọn fọto ti ko ni aami, lẹhinna yiyi ti o dara lori iwe data ti o ni aami ti iṣoogun-iṣoro nibiti awọn asọye iwé ko pọ si Awọn ẹgbẹ nigbagbogbo gba awọn abajade ti o dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe ni akoko pupọ.

BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ ninu iṣe

Awọn ẹya iwoye roboti ẹkọ lati awọn ṣiṣan kamẹra aise laisi aami-ọwọ, idinku idiyele ti awọn iṣẹ ifọwọyi ikọni.

Kọ ẹkọ awọn ẹya iwoye roboti lati awọn ṣiṣan kamẹra aise laisi aami-ọwọ, idinku idiyele ti awọn iṣẹ ifọwọyi ikọni Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe lori akoko.

BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ ninu iṣe

Ṣiṣe atunṣe aworan ati awọn ọna ṣiṣe idinkuro nipa lilo awọn ifibọ BYOL ti o ṣe akojọpọ awọn aworan ti o jọra laisi eyikeyi awọn aami kilasi.

Ṣiṣe atunṣe aworan ati awọn ọna ṣiṣe yiyọkuro nipa lilo awọn ifibọ BYOL ti o ṣe akojọpọ awọn aworan ti o jọra ni wiwo laisi eyikeyi awọn aami kilasi Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ba ṣalaye awọn ilodiwọn didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.

BYOL ati Abojuto ti ara ẹni ti ko ni iyatọ ninu iṣe

Bibẹrẹ satẹlaiti tabi awọn awoṣe aworan eriali lori awọn ile-ipamọ ti ko ni aami pupọ ṣaaju iṣatunṣe itanran fun lilo ilẹ tabi ipagborun isọdi.

Bibẹrẹ satẹlaiti tabi awọn awoṣe aworan eriali lori awọn ile-ipamọ ti ko ni aami pupọ ṣaaju iṣatunṣe itanran fun lilo ilẹ tabi ipagborun Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.

Awọn ewu & Awọn ọna iṣọ

!

Ṣiṣepe ala-ilẹ kan le tọju awọn ailagbara eto ti o gbooro.

!

Awọn ohun elo amayederun ati awọn idiyele itọju nigbagbogbo ni aibikita.

!

Aabo ati awọn ela akiyesi le dagba bi awọn eto ṣe di eka sii.

Ilana Ilana imuse

1

Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse.

Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

2

Aṣepari labẹ ẹru ojulowo ati awọn ipo data.

Aṣepari labẹ ẹru ojulowo ati awọn ipo data. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

3

Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo.

Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

4

Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn.

Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

Tesiwaju Ṣiṣawari