Jagorar Fasaha

InfoNCE da Makasudin SimCLR

InfoNCE ita ce hasara mai ma'ana wacce ke koya wa abin ƙira don jawo madaidaicin nau'i-nau'i tare da tura madaidaicin nau'i-nau'i a cikin haɗa sararin samaniya.

Dubawa

InfoNCE ita ce hasara mai ma'ana wacce ke koya wa abin ƙira don jawo madaidaicin nau'i-nau'i tare da tura madaidaicin nau'i-nau'i a cikin haɗa sararin samaniya. SimCLR babban tsari ne na ƙasa wanda yayi amfani da wannan asarar don koyan ƙaƙƙarfan wakilcin hoto daga bayanan da ba a lakabi ba, yana fafatawa da horarwar da aka sa gaba.

InfoNCE da Makasudin SimCLR wani shingen ginin fasaha ne wanda ke shafar ingancin samfuri, farashin kayayyakin more rayuwa, latency, da aminci a sikeli.

Zurfafa nutsewa

InfoNCE (Kimanin Haɓaka Harutu don bayanin juna) yana horar da encoder ta yadda tambaya da tabbataccen sa na gaskiya su sami mafi girman makin kamanni fiye da tambayar da yawancin munanan abubuwa. Yana da gaske a softmax giciye-entropy akan maki kamanceceniya: don anga, mai kyau yakamata yayi nasara akan abubuwan da ba su dace ba. SimCLR (2020) ya aiwatar da wannan don hotuna: ɗaukar hoto ɗaya, yi amfani da haɓaka bazuwar guda biyu don ƙirƙirar ingantacciyar guda biyu, gudanar da duka ta hanyar encoder mai raba tare da kan tsinkaya, kuma amfani da daidaitaccen ma'aunin zafin jiki na giciye (NT-Xent, bambance-bambancen InfoNCE) don haka ra'ayoyin biyun da aka haɓaka suna jan hankali yayin da duk sauran hotuna a cikin tsari mara kyau. SimCLR ya nuna cewa ƙaƙƙarfan haɓaka bayanai, shugaban tsinkaya mara tushe, manyan nau'ikan tsari, da yanayin zafin jiki tare suna barin samfuran kulawa da kai suyi daidai da waɗanda ake kulawa akan ImageNet - ba tare da wani lakabi ba yayin horo.

Fahimtar Fasaha

NT-Xent yana ƙididdige kamanceceniyar cosine tsakanin abubuwan haɗin L2-na al'ada, yana rarraba ta zazzabi τ, kuma yana amfani da softmax giciye-entropy yana kula da tabbatacce a matsayin daidaitaccen aji tsakanin duk misalan cikin-tsari. Ƙananan τ yana ƙaddamar da rarrabawa kuma yana ƙulla mummunan mummunan rauni. Ana amfani da shugaban tsinkayar SimCLR (MLP) ne kawai yayin horarwa kuma a watsar da shi daga baya - wakilci kafin canja wurin kai da kyau. Manyan batches suna da mahimmanci saboda suna samar da abubuwa da yawa a cikin mataki ɗaya.

Jagorar Bayanin Bayani da Makasudin SimCLR

InfoNCE ita ce hasara mai ma'ana wacce ke koya wa abin ƙira don jawo madaidaicin nau'i-nau'i tare da tura madaidaicin nau'i-nau'i a cikin haɗa sararin samaniya. SimCLR babban tsari ne na ƙasa wanda yayi amfani da wannan asarar don koyan ƙaƙƙarfan wakilcin hoto daga bayanan da ba a lakabi ba, yana fafatawa da horarwar da aka sa gaba. InfoNCE da Makasudin SimCLR wani shingen ginin fasaha ne wanda ke shafar ingancin samfuri, farashin kayayyakin more rayuwa, latency, da aminci a sikeli. Don gina zurfin fahimta, bi InfoNCE da SimCLR Manufofin a matsayin samfurin aiki, ba fasali ɗaya ba: ayyana sakamakon da ake so, bayyana zato, da raba abin da tsarin zai iya yi da dogaro daga abin da har yanzu yana buƙatar yanke hukunci na ƙwararru.

A aikace, ƙungiyoyi masu ƙarfi masu amfani da InfoNCE da Manufofin SimCLR suna haɓaka gine-gine, bayanai, da zaɓin abubuwan more rayuwa a kan dogaro da farashi. Suna rubuta ƙayyadaddun ƙa'idodin nasara, gwaji akan bayanan gaskiya da gudanawar aiki, da jujjuyawar bisa ga tsarin gazawar da aka lura maimakon cin nasara na lokaci ɗaya. Wannan shine inda fahimtar ka'idar ta juya zuwa iyawa mai dorewa a cikin samfura, manufofi, da ayyuka.

Hukunce-hukuncen gine-gine suna haifar da aiki da tsadar aiki na shekaru. A lokaci guda, Haɓaka ma'auni ɗaya na iya ɓoye manyan raunin tsarin. Hanyar da ta fi dacewa ita ce haɗa saurin gwaji tare da horon gudanarwa: gudanar da matukin jirgi, kama shaida, buga rajistan ayyukan yanke shawara, da ci gaba da sabunta abubuwan tsaro kamar yadda halayen ƙira, tsammanin mai amfani, da buƙatun tsari ke tasowa.

Dabarun Tasiri

Hukunce-hukuncen gine-gine suna haifar da aiki da tsadar aiki na shekaru.

Hukunce-hukuncen gine-gine suna haifar da aiki da tsadar aiki na shekaru. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.

Ilimin fasaha yana taimaka wa ƙungiyoyi su zaɓi tari mai kyau, ba kawai sabon abu ba.

Ilimin fasaha yana taimaka wa ƙungiyoyi su zaɓi tari mai kyau, ba kawai sabon abu ba. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.

Zaɓuɓɓukan injiniya mafi kyau suna rage abin dogaro a cikin samarwa.

Zaɓuɓɓukan injiniya mafi kyau suna rage abin dogaro a cikin samarwa. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.

Makomar InfoNCE da Makasudin SimCLR

Maƙasudai daban-daban sun bazu fiye da SimCLR: CLIP yana daidaita hotuna tare da rubutu ta amfani da InfoNCE ta hanyoyin, kuma asara iri ɗaya tana tafiyar da sauti, bidiyo, da samfura na dawo da su. Bincike a yanzu yana rage dogaro ga manyan batches da yawa mara kyau ta bankunan ƙwaƙwalwar ajiya (MoCo), ko kuma cire abubuwan da ba su da kyau gaba ɗaya (BYOL, SimSiam, DINO). Yi tsammanin ci gaba da haɗawa da bambance-bambance, distillation, da pretraining-masked-modeling, tare da daidaitawa na zamani (rubutu, hoto, sauti) a matsayin babban yanki don ƙirar tushe.

Aiwatar da Gaskiyar Duniya

SimCLR yana horar da mai rikodin hoto akan hotuna marasa lakabi, sannan daidaitawa akan ƙaramin saiti mai lakabi don rarrabuwa.

CLIP ta amfani da manufar InfoNCE don daidaita hotuna tare da taken su, yana ba da damar rarraba hoto mai harbi.

Gina bincike na gani/dawowa inda hotuna masu kama da juna ke zama kusa da juna a cikin sararin da aka koya.

Horon da ake sa ido kan kai don ɗaukar hoto na likita ko tauraron dan adam inda alamun ba su da yawa amma ɗanyen bayanai suna da yawa.

Hanyoyin Aiwatarwa

InfoNCE da Makasudin SimCLR a aikace

SimCLR yana horar da mai rikodin hoto akan hotuna marasa lakabi, sannan daidaitawa akan ƙaramin saiti mai lakabi don rarrabuwa.

SimCLR yana ƙaddamar da rikodin rikodin hoto akan hotuna marasa lakabi, sannan daidaitawa akan ƙaramin saiti mai lakabi don rarrabuwa Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ƙofofin inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da bin diddigin nasarorin samarwa da tsadar kuskure akan lokaci.

InfoNCE da Makasudin SimCLR a aikace

CLIP ta amfani da manufar InfoNCE don daidaita hotuna tare da taken su, yana ba da damar rarraba hoto mai harbi.

CLIP ta yin amfani da manufar InfoNCE don daidaita hotuna tare da taken su, yana ba da damar rarraba hoto mai hoto ba koyaushe yana samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'in ƙira, da bin duk nasarorin samarwa da ƙimar kuskure akan lokaci.

InfoNCE da Makasudin SimCLR a aikace

Gina bincike na gani/dawowa inda hotuna masu kama da juna ke zama kusa da juna a cikin sararin da aka koya.

Gina binciken gani/dawowa inda hotuna masu kama da juna ke zama kusa da juna a cikin sararin da aka koya Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'in gefe, da bin duk nasarorin samarwa da ƙimar kuskure akan lokaci.

InfoNCE da Makasudin SimCLR a aikace

Horon da ake sa ido kan kai don ɗaukar hoto na likita ko tauraron dan adam inda alamun ba su da yawa amma ɗanyen bayanai suna da yawa.

Horon da ake kulawa da kai don ɗaukar hoto na likita ko tauraron dan adam inda alamun ba su da yawa amma cikakkun bayanai suna da yawa Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da bin diddigin nasarorin samarwa da farashi na kuskure akan lokaci.

Hatsari & Tsare-tsare

!

Haɓaka ma'auni ɗaya na iya ɓoye manyan raunin tsarin.

!

Sau da yawa ana raina kayan more rayuwa da kuma kuɗin kulawa.

!

Tsaro da gibin lura na iya girma yayin da tsarin ke ƙara haɓaka.

Taswirar Hanya

1

Ƙayyade latency, inganci, da maƙasudin farashi kafin aiwatarwa.

Ƙayyade latency, inganci, da maƙasudin farashi kafin aiwatarwa. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.

2

Alamar ma'auni a ƙarƙashin ainihin kaya da yanayin bayanai.

Alamar ma'auni a ƙarƙashin ainihin kaya da yanayin bayanai. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.

3

Kula da kayan aiki don kurakurai, ɗigo, da tasirin mai amfani.

Kula da kayan aiki don kurakurai, ɗigo, da tasirin mai amfani. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.

4

Shirya bijirowa da hanyoyin mayar da martani kafin sikeli.

Shirya bijirowa da hanyoyin mayar da martani kafin sikeli. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.

Ci gaba da Bincike