HAGAHA Farsamada

Macluumaadka iyo Ujeeddooyinka SimCLR

InfoNCE waa khasaaraha is-barbardhiga ah ee bara qaabka inuu isu jiido lammaane is-bar-bar socda oo uu kala riixo lammaane is-khilaafsan marka la isku dhejiyo meel bannaan.

Dulmar

InfoNCE waa khasaaraha is-barbardhiga ah ee bara qaabka inuu isu jiido lammaane is-bar-bar socda oo uu kala riixo lammaane is-khilaafsan marka la isku dhejiyo meel bannaan. SimCLR waa qaab-dhismeed taariikhi ah oo u isticmaalay khasaarahan si uu u barto matalaad muuqaal ah oo awood badan xogta aan la calaamadin, iyada oo la tartameysa tababbarka hore ee la kormeerayo.

Ujeedooyinka InfoNCE iyo SimCLR waa dhisme farsamo oo saameeya tayada moodeelka, kharashka kaabayaasha, daahitaanka, iyo isku halaynta cabbirka.

quusitaanka qoto dheer

InfoNCE (Qiyaasta-Qiyaasta-is-is-ku-dhigga ee macluumaadka labada dhinac) waxay tababartaa cod-bixiyaha si su'aasha iyo toganteeda runta ahi ay u yeeshaan dhibco isku mid ah oo ka sarreeya weydiinta iyo waxyaabo badan oo taban. Asal ahaan waa softmax cross-entropy marka loo eego dhibcaha la midka ah: barroosinka, kuwa togan waa in ay ka guuleystaan ​​kuwa taban. SimCLR (2020) ayaa tan ka hirgelisay sawirada: qaado hal sawir, codso laba kor u qaadis random si aad u abuurto lamaane togan, ku socodsii labadaba codeer la wadaago iyo madaxa saadaalinta, oo adeegso heerkulka caadiga ah ee iskutallaabta-entropy (NT-Xent, kala duwanaanshaha macluumaadka) marka labada aragti ee la kordhiyey ayaa soo jiidanaya halka dhammaan sawirada kale ee dufcadda ku jira ay u dhaqmaan sidii taban. SimCLR waxay muujisay in xog-ururinta xooggan, madaxa saadaasha aan tooska ahayn, cabbirrada dufcadaha waaweyn, iyo heerkulka la hagaajiyay ay u oggolaadaan moodooyinka is-maamula inay la mid noqdaan kuwa la kormeero ee ImageNet - iyada oo aan lahayn wax calaamado ah inta lagu jiro tababarka hore.

Aragtida Farsamada

NT-Xent waxa ay xisaabisaa isku ekaanshaha isku midka ah ee u dhexeeya L2-ku-xidhnaanta caadiga ah, waxa ay u qaybisaa heerkul τ, oo waxay ku dabaqdaa softmax cross-entropy iyada oo la dawaynaysa togan sida fasalka saxda ah ee dhammaan tusaalooyinka dufcada. Hoose τ waxay afaysa qaybinta waxayna sii ciqaabaysaa xumaanta adag. Madaxa saadaasha SimCLR (MLP) waxa la isticmaalaa oo kaliya inta lagu jiro tababbarka ka hor oo la tuuraa ka dib - matalaad ka hor inta aan madaxa si fiican loo wareejin. Dufcadaha waaweyni waa arrin sababtoo ah waxay keenaan waxyaabo badan oo taban oo hal tallaabo ah.

Aqoonta Macluumaadka iyo Ujeeddooyinka SimCLR

InfoNCE waa khasaaraha is-barbardhiga ah ee bara qaabka inuu isu jiido lammaane is-bar-bar socda oo uu kala riixo lammaane is-khilaafsan marka la isku dhejiyo meel bannaan. SimCLR waa qaab-dhismeed taariikhi ah oo u isticmaalay khasaarahan si uu u barto matalaad muuqaal ah oo awood badan xogta aan la calaamadin, iyada oo la tartameysa tababbarka hore ee la kormeerayo. Ujeedooyinka InfoNCE iyo SimCLR waa dhisme farsamo oo saameeya tayada moodeelka, kharashka kaabayaasha, daahitaanka, iyo isku halaynta cabbirka. Si loo dhiso faham qoto dheer, ula dhaqan InfoNCE iyo SimCLR Ujeedooyinka qaab hawleed, ma aha hal sifo: qeex natiijooyinka la rabo, cadee fikradaha, oo kala saar waxa nidaamku si kalsooni leh u qaban karo iyo waxa weli u baahan go'aan khabiir.

Ficil ahaan, kooxaha xoogga leh ee isticmaalaya InfoNCE iyo Ujeeddooyinka SimCLR waxay wanaajiyaan qaab dhismeedka, xogta, iyo doorashooyinka kaabayaasha lidka ku ah isku halaynta iyo qiimaha. Waxay diiwaangeliyaan shuruudaha guusha ee cad, tijaabiyaan xogta dhabta ah iyo qulqulka shaqada, waxayna ku celceliyaan ku saleysan qaababka guul darrida ee la arkay halkii ay hal mar ku guuleysan lahaayeen halbeegyada. Tani waa halka fahamka aragtida uu isu beddelo karti waara oo dhan badeecada, siyaasadda, iyo hawlgallada.

Go'aamada qaab-dhismeedku waxay horseedaan waxqabadka iyo kharashka hawlgalka sannadaha. Isla mar ahaantaana, hagaajinta hal bartilmaameed waxay qarin kartaa daciifnimada nidaamka ballaaran. Habka ugu adkeysi badan waa in la isku daro xawaaraha tijaabada iyo anshaxa maamulka: socodsiinta duuliyayaasha, qabashada caddaynta, daabacaadda go'aanka, iyo si joogto ah u cusboonaysii ilaalinta sida habdhaqanka moodeelka, filashada isticmaale, iyo shuruudaha sharciyaynta.

Saamaynta Istiraatijiyadeed

Go'aamada qaab-dhismeedku waxay horseedaan waxqabadka iyo kharashka hawlgalka sannadaha.

Go'aamada qaab-dhismeedku waxay horseedaan waxqabadka iyo kharashka hawlgalka sannadaha. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.

Waxbarashada farsamada waxay ka caawisaa kooxaha inay doortaan xidhmo sax ah, ma aha oo kaliya kan ugu cusub.

Waxbarashada farsamada waxay ka caawisaa kooxaha inay doortaan xidhmo sax ah, ma aha oo kaliya kan ugu cusub. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.

Doorashooyinka injineernimada ee wanaagsan waxay yareeyaan shilalka la isku halleyn karo ee wax soo saarka.

Doorashooyinka injineernimada ee wanaagsan waxay yareeyaan shilalka la isku halleyn karo ee wax soo saarka. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.

Mustaqbalka Macluumaadka iyo Ujeeddooyinka SimCLR

Ujeedooyinka is burinaya ayaa ku faafay meel ka fog SimCLR: CLIP waxay ku toosisaa sawirada qoraalka iyadoo la isticmaalayo InfoNCE qaabab kala duwan, isla khasaarahaasna wuxuu wadaa maqal, muuqaal, iyo moodallo soo celin. Cilmi baaristu waxay hadda yaraynaysaa ku-tiirsanaanta dufcadaha waaweyn iyo waxyaabo badan oo taban iyadoo loo marayo bangiyada xusuusta (MoCo), ama waxay meesha ka saaraysaa xumaanta cad ee gebi ahaanba (BYOL, SimSiam, DINO). Filo in la sii wado isku-dhafka isbar-bardhigga, kala-soocidda, iyo tababarka hore ee qaabaynta waji-xidhka, oo leh isku-habaynta qaababka kala duwan (qoraalka, sawirka, maqalka) oo ah xudduudaha ugu sarreeya moodooyinka aasaasiga ah.

Dhaqangelinta Adduunka-dhabta ah

SimCLR oo ku sii tababaraysa cod-bixiyaha sawir sawiro aan calaamadayn, ka dibna si wanagsan u hagaajinaya meel yar oo calaamadeysan si loo kala saaro.

CLIP iyadoo la isticmaalayo ujeedka macluumaadka si uu u waafajiyo sawirada qoraaladooda, taasoo awood u siinaysa kala soocida sawirka eber.

Dhisidda goob-raadinta/soo-kabasho muuqaal ah halkaasoo sawiro la mid ah ay wada fariistaan ​​meel u dhow meesha wax lagu dhex geliyo.

Tabobar horudhac ah oo is-maamulid ah oo loogu talagalay caafimaadka ama sawirka dayax-gacmeedka halkaasoo calaamaduhu ay ku yar yihiin laakiin xogta cayriin ay aad u badan tahay.

Hababka Dhaqangelinta

Macluumaadka iyo Ujeeddooyinka SimCLR ee ficil ahaan

SimCLR oo ku sii tababaraysa cod-bixiyaha sawir sawiro aan calaamadayn, ka dibna si wanagsan u hagaajinaya meel yar oo calaamadeysan si loo kala saaro.

SimCLR oo horay u sii tababbartay cod-bixiyaha sawir-gacmeedka sawirrada aan la calaamadsaneyn, ka dib hagaajinta qaab-dhismeed yar oo calaamadeysan oo loogu talagalay kala-soocidda Kooxuhu inta badan waxay helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u qaadista bini'aadamka ee kiisaska cirifka ah, oo la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada qaladka waqti ka dib.

Macluumaadka iyo Ujeeddooyinka SimCLR ee ficil ahaan

CLIP iyadoo la isticmaalayo ujeedka macluumaadka si uu u waafajiyo sawirada qoraaladooda, taasoo awood u siinaysa kala soocida sawirka eber.

CLIP iyada oo la adeegsanayo ujeeddada macluumaadka si loogu waafajiyo sawirada qoraaladooda, taasoo awood u siinaysa kala soocida sawirka eber-ka-soo-baxa kooxuhu waxay badanaa helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u qaadida bini'aadamka ee kiisaska cirifka ah, oo la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada khaladka waqti ka dib.

Macluumaadka iyo Ujeeddooyinka SimCLR ee ficil ahaan

Dhisidda goob-raadinta/soo-kabasho muuqaal ah halkaasoo sawiro la mid ah ay wada fariistaan ​​meel u dhow meesha wax lagu dhex geliyo.

Dhisidda goobid/soo-kabasho muuqaal ah oo sawiro la mid ah ay wada fadhiistaan ​​meel u dhow meelihii la bartay ee la bartay Kooxuhu waxay inta badan helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u qaadista bini'aadamka ee kiisaska cirifka ah, oo ay la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada qaladka waqti ka dib.

Macluumaadka iyo Ujeeddooyinka SimCLR ee ficil ahaan

Tabobar horudhac ah oo is-maamulid ah oo loogu talagalay caafimaadka ama sawirka dayax-gacmeedka halkaasoo calaamaduhu ay ku yar yihiin laakiin xogta cayriin ay aad u badan tahay.

Tabobar horudhac ah oo la iska ilaaliyo oo loogu talagalay caafimaadka ama sawirka dayax-gacmeedka halkaas oo calaamaduhu ay ku yar yihiin laakiin xogta cayriin ay badan tahay Kooxuhu waxay inta badan helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u kaca bini'aadamka ee kiisaska cirifka ah, oo la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada qaladka waqti ka dib.

Khatarta & Dariiqyada Ilaalada

!

Hagaajinta hal bartilmaameed waxay qarin kartaa daciifnimada nidaamka ballaaran.

!

Kaabayaasha dhaqaalaha iyo dayactirka inta badan waa la dhayalsadaa.

!

Nabadgelyada iyo daldaloolada u fiirsashada ayaa kori kara marka nidaamyadu noqdaan kuwo aad u adag.

Qorshe Hawleedka Dhaqangelinta

1

Qeex daahida, tayada, iyo bartilmaameedyada qiimaha ka hor inta aan la hirgelin.

Qeex daahida, tayada, iyo bartilmaameedyada qiimaha ka hor inta aan la hirgelin. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

2

Benchmark marka la eego culeyska dhabta ah iyo xaaladaha xogta.

Benchmark marka la eego culeyska dhabta ah iyo xaaladaha xogta. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

3

La socodka qalabka khaladaadka, leexashada, iyo saamaynta isticmaalaha.

La socodka qalabka khaladaadka, leexashada, iyo saamaynta isticmaalaha. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

4

U diyaari dib-u-noqoshada iyo dariiqyada jawaab-celinta dhacdada ka hor inta aanad miisaan.

U diyaari dib-u-noqoshada iyo dariiqyada jawaab-celinta dhacdada ka hor inta aanad miisaan. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

Sii wad Sahaminta