InayofuataMwongozo unaofuata
Kuweka Lebo za Uongo na Kujizoeza
Kiufundi
MWONGOZO wa Kiufundi
BYOL na Usimamizi wa kibinafsi usio na Kinyume
BYOL (Bootstrap Your Own Latent) hujifunza uwasilishaji wa picha muhimu bila lebo yoyote na, cha kushangaza, bila mifano hasi.
Sikiliza mwongozo huuInaonyeshwa na AI · ~2 min
Katika ukurasa huudk 2 kusoma
Muhtasari
It showed that self-supervised learning need not rely on pushing apart dissimilar images, sidestepping the need for huge batches of negatives.
Dive ya kina
Njia nyingi za mapema za kujisimamia zilikuwa tofauti: zilivuta maoni mawili yaliyoongezwa ya picha moja pamoja huku zikisukuma picha tofauti kando, ambayo ilihitaji sampuli nyingi hasi ili kuzuia kuanguka (ambapo mtandao hutoa vekta sawa kwa kila kitu). BYOL, kutoka DeepMind mnamo 2020, iliondoa hasi kabisa. Inatumia mitandao miwili: mtandao wa mtandaoni na mtandao unaolengwa. Maoni mawili yaliyoongezwa ya picha moja yanapitia mitandao miwili; mtandao wa mtandaoni huongeza kichwa cha utabiri na hufunzwa kutabiri uwakilishi wa mtandao lengwa wa mtazamo mwingine. Kimsingi, uzani wa mtandao unaolengwa haujafunzwa kwa kushuka kwa upinde rangi. Badala yake ni wastani wa kusonga mbele (EMA) wa uzani wa mtandaoni. Ulinganifu huu pamoja na lengo la EMA huzuia mporomoko mdogo wa mbinu tofauti zinazohofiwa, zinazolingana au kushinda misingi tofauti kwenye ImageNet.
Utekelezaji wa Ulimwengu Halisi
Kutayarisha uti wa mgongo wa maono kwenye mamilioni ya picha zisizo na lebo, kisha kurekebisha vyema mkusanyiko wa data wa picha za kimatibabu ulio na lebo ambapo vidokezo vya kitaalamu ni haba.
Kujifunza vipengele vya utambuzi wa roboti kutoka kwa mitiririko ya kamera mbichi bila kuweka lebo kwa mikono, hivyo kupunguza gharama ya kufundisha kazi za upotoshaji.
Kuunda mifumo ya kurejesha picha na utengaji kwa kutumia upachikaji wa BYOL ambao huweka pamoja picha zinazofanana bila lebo zozote za darasa.
Kuanzisha miundo ya picha za satelaiti au angani kwenye kumbukumbu kubwa zisizo na lebo kabla ya urekebishaji kwa uainishaji wa matumizi ya ardhi au ukataji miti.
Mustakabali wa BYOL na Usimamiaji wa Kibinafsi usio na Kinyume
Mawazo yasiyopingana sasa yanaimarisha maono mengi ya kujisimamia. SimSiam iliiondoa BYOL chini zaidi, kuonyesha lengo la EMA halihitajiki kabisa ikiwa daraja la kusimamisha-simama linawekwa, kuimarisha uelewa wa kwa nini kuporomoka kuepukwe. Tarajia mapishi haya ya mafunzo ya awali yasiyo na lebo ili kuendelea kuunganishwa na uundaji wa picha za barakoa na mafunzo ya uundaji wa aina nyingi, na kuenea hadi kwenye video, sauti, picha za kimatibabu na roboti ambapo lebo ni adimu au ni ghali, mara nyingi kama hatua ya kutayarisha kabla ya urekebishaji wa uzani mwepesi unaosimamiwa.
Kuiweka katika vitendo
Kwa nini ni muhimu
- Gharama na bajeti. Maamuzi ya usanifu huendesha utendaji na gharama ya uendeshaji kwa miaka.
- Maamuzi ya wazi zaidi. Elimu ya kiufundi husaidia timu kuchagua safu sahihi, sio tu mpya zaidi.
- Udhibiti wa ubora. Chaguo bora za uhandisi hupunguza matukio ya kuaminika katika uzalishaji.
Jihadharini na
- Kuboresha kiwango kimoja kunaweza kuficha udhaifu mkubwa wa mfumo.
- Gharama za miundombinu na matengenezo mara nyingi hupunguzwa.
- Mapengo ya usalama na uonekanaji yanaweza kukua kadiri mifumo inavyozidi kuwa ngumu.
Hatua zinazofuata
- Bainisha muda, ubora na malengo ya gharama kabla ya utekelezaji.
- Benchmark chini ya mzigo halisi na hali ya data.
- Ufuatiliaji wa ala kwa makosa, kuteleza, na athari za mtumiaji.
- Tayarisha njia za urejeshaji na majibu ya matukio kabla ya kuongeza ukubwa.
Endelea Kuchunguza
Jarida halali
Pata taarifa ya kila siku ya AI
Hadithi tatu za AI zilizothibitishwa kila asubuhi ya wiki, zimetengenezwa kwa Kiingereza rahisi. Bila malipo daima, hakuna matangazo.
Barua pepe moja kila siku ya wiki. Jiondoe kwa bonyeza moja. Hatutauza au kushiriki anwani yako.
Jijaribu mwenyewe
Take the BYOL and Non-Contrastive Self-Supervision quiz
Maoni ya haraka juu ya kila jibu, na cheti kinachoweza kushirikishwa na kitambulisho kinachoweza kuthibitishwa baada ya kupita kozi.
Changia elimu ya AI bila malipo. AI Understanding ni 501(c)(3) isiyo na faida — hakuna matangazo, hakuna kizuizi cha malipo, daima. Toa mchango
Maswali yanayoulizwa mara kwa mara
What is BYOL and Non-Contrastive Self-Supervision?
BYOL (Bootstrap Your Own Latent) hujifunza uwasilishaji wa picha muhimu bila lebo yoyote na, cha kushangaza, bila mifano hasi. Ilionyesha kuwa ujifunzaji wa kujisimamia hauhitaji kutegemea kutenganisha picha tofauti, na kuepusha hitaji la vikundi vikubwa vya hasi.
What makes BYOL non-contrastive?
The BYOL paper highlights learning representations without negative pairs.
What does the online network learn to predict?
BYOL trains the online branch to predict the target representation across two views.
How are target-network weights updated?
The paper describes updating the target with a slow-moving average.
Why does BYOL use an online predictor and stop-gradient on the target side?
The BYOL method uses asymmetry and a stop-gradient as parts of its design.
What happens to two views of the same image in BYOL?
The paper learns by predicting one view’s target representation from another.
Endelea kujifunza
Miongozo inayohusiana
Miongozo zaidi imechaguliwa kwa mada hii