HAGAHA Farsamada
Macluumaadka iyo Ujeeddooyinka SimCLR
InfoNCE waa khasaaraha is-barbardhiga ah ee bara qaabka inuu isu jiido lammaane is-bar-bar socda oo uu kala riixo lammaane is-khilaafsan marka la isku dhejiyo meel bannaan.
Dhageyso hagahanAI-waa laga sheekeeyay · ~2 min
Boggaan2 daqiiqo akhri
Dulmar
SimCLR is a landmark framework that used this loss to learn powerful image representations from unlabeled data, rivaling supervised pretraining.
quusid qoto dheer
InfoNCE (Qiyaasta-Qiyaasta-is-is-ku-dhigga ee macluumaadka labada dhinac) waxay tababartaa cod-bixiyaha si su'aasha iyo toganteeda runta ahi ay u yeeshaan dhibco isku mid ah oo ka sarreeya weydiinta iyo waxyaabo badan oo taban. Asal ahaan waa softmax cross-entropy marka loo eego dhibcaha la midka ah: barroosinka, kuwa togan waa in ay ka guuleystaan kuwa taban. SimCLR (2020) ayaa tan ka hirgelisay sawirada: qaado hal sawir, codso laba kor u qaadis random si aad u abuurto lamaane togan, ku socodsii labadaba codeer la wadaago iyo madaxa saadaalinta, oo adeegso heerkulka caadiga ah ee iskutallaabta-entropy (NT-Xent, kala duwanaanshaha macluumaadka) marka labada aragti ee la kordhiyey ayaa soo jiidanaya halka dhammaan sawirada kale ee dufcadda ku jira ay u dhaqmaan sidii taban. SimCLR waxay muujisay in xog-ururinta xooggan, madaxa saadaasha aan tooska ahayn, cabbirrada dufcadaha waaweyn, iyo heerkulka la hagaajiyay ay u oggolaadaan moodooyinka is-maamula inay la mid noqdaan kuwa la kormeero ee ImageNet - iyada oo aan lahayn wax calaamado ah inta lagu jiro tababarka hore.
Dhaqangelinta Adduunka-dhabta ah
SimCLR oo ku sii tababaraysa cod-bixiyaha sawir sawiro aan calaamadayn, ka dibna si wanagsan u hagaajinaya meel yar oo calaamadeysan si loo kala saaro.
CLIP iyadoo la isticmaalayo ujeedka macluumaadka si uu u waafajiyo sawirada qoraaladooda, taasoo awood u siinaysa kala soocida sawirka eber.
Dhisidda goob-raadinta/soo-kabasho muuqaal ah halkaasoo sawiro la mid ah ay wada fariistaan meel u dhow meesha wax lagu dhex geliyo.
Tabobar horudhac ah oo is-maamulid ah oo loogu talagalay caafimaadka ama sawirka dayax-gacmeedka halkaasoo calaamaduhu ay ku yar yihiin laakiin xogta cayriin ay aad u badan tahay.
Mustaqbalka Macluumaadka iyo Ujeeddooyinka SimCLR
Ujeedooyinka is burinaya ayaa ku faafay meel ka fog SimCLR: CLIP waxay ku toosisaa sawirada qoraalka iyadoo la isticmaalayo InfoNCE qaabab kala duwan, isla khasaarahaasna wuxuu wadaa maqal, muuqaal, iyo moodallo soo celin. Cilmi baaristu waxay hadda yaraynaysaa ku-tiirsanaanta dufcadaha waaweyn iyo waxyaabo badan oo taban iyadoo loo marayo bangiyada xusuusta (MoCo), ama waxay meesha ka saaraysaa xumaanta cad ee gebi ahaanba (BYOL, SimSiam, DINO). Filo in la sii wado isku-dhafka isbar-bardhigga, kala-soocidda, iyo tababarka hore ee qaabaynta waji-xidhka, oo leh isku-habaynta qaababka kala duwan (qoraalka, sawirka, maqalka) oo ah xudduudaha ugu sarreeya moodooyinka aasaasiga ah.
Ku dhaqangelinta
Maxay muhiim u tahay
- Qiimaha iyo miisaaniyada. Go'aamada qaab-dhismeedku waxay horseedaan waxqabadka iyo kharashka hawlgalka sannadaha.
- Go'aamo cad. Waxbarashada farsamada waxay ka caawisaa kooxaha inay doortaan xidhmo sax ah, ma aha oo kaliya kan ugu cusub.
- Xakamaynta tayada. Doorashooyinka injineernimada ee wanaagsan waxay yareeyaan shilalka la isku halleyn karo ee wax soo saarka.
Iska ilaali
- Hagaajinta hal bartilmaameed waxay qarin kartaa daciifnimada nidaamka ballaaran.
- Kaabayaasha dhaqaalaha iyo dayactirka inta badan waa la dhayalsadaa.
- Nabadgelyada iyo daldaloolada u fiirsashada ayaa kori kara marka nidaamyadu noqdaan kuwo aad u adag.
Tallaabooyinka xiga
- Qeex daahida, tayada, iyo bartilmaameedyada qiimaha ka hor inta aan la hirgelin.
- Benchmark marka la eego culeyska dhabta ah iyo xaaladaha xogta.
- La socodka qalabka khaladaadka, leexashada, iyo saamaynta isticmaalaha.
- U diyaari dib-u-noqoshada iyo dariiqyada jawaab-celinta dhacdada ka hor inta aanad miisaan.
Sii wad Sahaminta
Warqad bilaash ah
Hel warbixinta maalinlaha ah ee AI
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Take the InfoNCE and SimCLR Objectives quiz
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Su'aalaha soo noqnoqda
What is InfoNCE and SimCLR Objectives?
InfoNCE waa khasaaraha is-barbardhiga ah ee bara qaabka inuu isu jiido lammaane is-bar-bar socda oo uu kala riixo lammaane is-khilaafsan marka la isku dhejiyo meel bannaan. SimCLR waa qaab-dhismeed taariikhi ah oo u isticmaalay khasaarahan si uu u barto matalaad muuqaal ah oo awood leh xogta aan la calaamadsaneyn, iyada oo la tartameysa tababbarka hore ee la kormeerayo.
Maxay ujeeddada InfoNCE ku dhiirigelisaa moodalku inuu sameeyo?
InfoNCE waa softmax ka badan kuwa la mid ah oo abaalmariya isku ekaanshaha sare ee togan iyo kuwa hoose ee u ekaanshaha taban.
Gudaha SimCLR, sidee loo abuuray lammaane togan?
SimCLR waxay soo saartaa lammaane togan oo ka yimid laba aragtiyood oo la kordhiyey oo isla sawirka isha ah; sawirada kale waxay u adeegaan sida xun.
Doorkee ayuu heerkulka τ ka ciyaara NT-Xent/InfoNCE?
U qaybinta waxyaabaha la midka ah τ ka hor inta aysan softmax xakamaynin sida ugu adag ee khasaaruhu u kala soocayo wanaagga iyo xumaanta adag.
Maxaa ku dhacaya madaxa saadaasha SimCLR ka dib tababarka hore?
SimCLR waxay ogaatay in astaamaha ka hor wareejinta madaxa saadaasha ay si fiican u fiican yihiin, sidaa darteed madaxa waa la tuurayaa ka dib tababarka hore.
Maxay SimCLR ugu tiirsan tahay cabbirrada dufcadaha waaweyn?
SimCLR sawirada kale ee dufcdu waxay u dhaqmaan sidii taban, markaa dufcadaha waaweyni waxay bixiyaan taban badan iyo waxbarasho xoog leh.
Sii wad waxbarashada
Tilmaamaha la xidhiidha
Tilmaamayaal badan ayaa loo doortay mawduucan