Ci bi mu melGis bi ci topp
Lookahead ak gaynde yiy gëna xéewale
Xarala
GUIDE teknik
InfoNCE ak SimCLR
InfoNCE mooy ñàkka wuute giy jàngal benn model ñu boole ñaari mbir yu méngoo, ba noppi tàqale ñaari mbir yu méngoowul ci espace embedding.
Déglul tegtal biiIA-nettali · ~2 min
Ci xët wii2 simili jàng
Résumé
SimCLR benn kaada la bu jëfandikoo ñàkk bii ngir jàng misaali nataal yu am doole ci done yuñ etiketewul, di xëcc tàggat buñ saytu.
Plongeur bu xóot
InfoNCE (Xayma buy wuutale bruit ngir leeral yuñ bokk) dafay tàggat encoder suko defee ab laaj ak limu baax dëgg am poñ yu gëna rëy ci nuru laaj bi ak ay negatif yu bari. Ci yoon sax entropi cross-max la ci kaw poñ yu nuróo: ngir ancre, lu baax moo wara jël ndam li ci lu bonn li. SimCLR (2020) dafa jëfandikoo lii ci nataal yi: jëlal benn nataal, jëfandikoo ñaari yokkute yu bari ngir sos peer bu baax, daw ñoom ñaar ci encoder buñ bokk boole ci boppu projection, ba noppi jëfandikoo entropy cross-scale bu tàngoor (NT-Xent, benn InfoNCE variant) suko defee ñeneen ñi yokk nataal yépp. SimCLR dafa wane ni yokkute ci done yu am doole, boppu projection bu amul rëdd, tolluwaayu lots yu mag, ak tàngoor wuñ boole dañu may model yi ñuy saytu seen bopp ñu méngoo ak yi ñuy saytu ci ImageNet - te amul benn etiket ci diiru tàggat yaram.
Doxal ci àdduna dëgg
SimCLR dafay njëkka tàggat encodeur nataal ci kaw nataal yu amul etiket, ba noppi ñu defar ko ci benn set bu ndaw bu am etiket ngir xaaj.
CLIP dafay jëfandikoo ab mébetu InfoNCE ngir méngale nataal yi ak seeni mbind, loolu mooy tax ñu mëna tànnal nataal yi amul benn kapsioŋ.
Tabax seetlu/jëfandikoo nataal fu nataal yu nuróo toog jegewaale ci barabu samp giñ jàng.
Tàggat sa bopp ngir nataali medsin wala satelit fu etiket yi néew waaye done yu bees yi bari nañu.
Ëlëgu InfoNCE ak SimCLR
Mébet yu wuute yi dañu tasaaroo fu sori ginaaw SimCLR: CLIP dafay méngale nataal yi ak mbind yi ci jëfandikoo InfoNCE ci anam yu bari, te benn ñàkk bi mooy dawal audio, wideo, ak xeetu seet. Gëstu leegi wàññi na dependence ci lots yu bari ak negatif yu bari jaaraleko ci bànku mémoire (MoCo), wala dindi negatif yu leer yépp (BYOL, SimSiam, DINO). Xaarandi wéyal jaxaso bu wuute, distilaasioŋ, ak tàggat modelu maske, ak njubte multimodal (bind, nataal, audio) muy frontiere bi gëna am solo ci modelu fondasioŋ yi.
Teg ko ci jëf
Lu tax mu am solo
- Njëgg ak budget. Dogal yi architecture di jël dañuy indi njariñ ak njëgu liggéey bi ay at ci ginaaw.
- dogal yu gëna leer. Njàngalem xarala yi dafay jàppale ekip yi ñu tànn li gën, te baña yam ci li gëna bees daal.
- Xool kalite. Tanneef yu gëna baax ci wàllu ingeñër dina wàññi jafe-jafe yi ci wàllu wóor ci liggéey bi.
Moytul
- Optimize benn benchmark mën na nëbb ñakk kattan yu gëna yaatu ci sistem bi.
- Njëg li ñuy fay ci infrastructure yi ak ci toppatoo dañuy faral di suufeel.
- Bu sistem yi di gëna xawa jafee xam, jafe-jafe yi am ci wàllu kaaraange ak seetlu mën nañu gëna bari.
Jéego yi ci topp
- Mandargal latency, kalite, ak njëg yi laata ngay jëfandikoo.
- Benchmark ci biir sargal ak done yu dëggu.
- Jumtukaay bi di saytu njuumte yi, derive bi ak njeextalu jëfandikukat bi.
- Waajal rollback ak yooni tontu ci jafe-jafe yi laata ngay eskale.
Weyal di banneexu
Bulletin bu amul fayda
Jàngal xibaar AI bu bes
Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.
Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.
Nattal sa bopp
Take the InfoNCE and SimCLR Objectives quiz
Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.
Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax
Laaj yi ñuy faral di laaj
Luy mébetu InfoNCE ak SimCLR?
InfoNCE mooy ñàkka wuute giy jàngal benn model ñu boole ñaari mbir yu méngoo, ba noppi tàqale ñaari mbir yu méngoowul ci espace embedding. SimCLR benn kaada la bu jëfandikoo ñàkk bii ngir jàng misaali nataal yu am doole ci done yuñ etiketewul, di xëcc tàggat buñ saytu.
Lan la mébetu InfoNCE di ñaax ab model mu def?
InfoNCE softmax la ci kaw nuru yi, di neexal nuru gu rëy ci dëgg lu baax ak nuru gu néew ci lu baaxul.
Ci SimCLR, naka lañuy defaree ñaar ñu baax?
SimCLR dafay defar peer bu baax ci ñaari gis-gis yuñ yokk ci benn nataalu balluwaay; yeneen nataal yi dañuy nekk negatif.
Ban cër la tàngoor τ def ci NT-Xent / InfoNCE?
Séddale nuru ak τ balaa softmax di saytu ni perte bi di wuutale lu baax ak lu bon lu dëgër.
Lan mooy dall boppu projection bu SimCLR ginaaw biñu ko njëkkee tàggat?
SimCLR gisna ni màndarga yi laata boppu projection bi moo gëna mëna toxal, moo tax bopp bi dañu koy sànni ginaaw bi ñu ko tàggatee.
Lu tax SimCLR di yéem ci dayo yu bari?
Ci SimCLR yeneen nataal yi ci batch bi dañuy nekk negatif, kon batch yu gëna mag dañuy joxe negatif yu bari ak jàng bu gëna am doole.
Weyal di jàng
Gid yu jëm ci loolu
Tann nañu yeneen njiit ngir topic bii