Mitandao ya Kubana-na-Kusisimua
Vizuizi vya Kubana-na-Kusisimua (SE) huruhusu mtandao wa mageuzi kujifunza kiasi cha kupima kila kipengele cha kipengele, kukirekebisha kulingana na muktadha wa kimataifa.
Muhtasari
This cheap attention-like mechanism won the 2017 ImageNet competition and became a standard CNN building block.
Dive ya kina
Ilianzishwa na Hu, Shen, na Sun mnamo 2017, block SE inaongeza umakini wa kituo kwenye CNN. Inafanya kazi katika hatua mbili. 'Kubana' hutumia mkusanyiko wa wastani wa kimataifa ili kukunja kila ramani ya kipengele (urefu x upana) kuwa nambari moja, na kutoa kifafanuzi kimoja kwa kila kituo ambacho kinaonyesha muhtasari wa uanzishaji wake wa kimataifa. 'Msisimko' hulisha vekta hiyo kupitia safu mbili ndogo zilizounganishwa kikamilifu na kizuizi (ReLU kisha sigmoid) ili kutoa uzito wa kila kituo kati ya 0 na 1. Vizito hivyo huzidisha ramani za vipengele vya asili, kukuza njia muhimu na kupunguza zisizo na umuhimu. SENet ilishinda shindano la uainishaji la ILSVRC 2017, na kupunguza makosa 5 ya juu hadi takriban 2.25%. Kizuizi kinaongeza asilimia chache tu ya vigezo vya ziada na kukokotoa, na kinaingia kwenye ResNet, Inception, au MobileNet na mabadiliko madogo.
Ufahamu wa Kiufundi
Kubana hutoa vekta ya urefu wa C ambapo z_c ni wastani wa anga wa chaneli c. Msisimko huhesabu s = sigmoid(W2 * ReLU(W1 * z)), ambapo W1 inapunguza kipimo kwa uwiano wa kupunguza r (kawaida 16) na W2 kuirejesha, na kuweka gharama iliyoongezwa kuwa ndogo. Matokeo ni ramani ya kipengele cha ingizo kilichopimwa kulingana na s. Ni aina ya kujidhibiti: mtandao huamua, kutoka kwa takwimu za kimataifa, ni njia zipi muhimu kwa ingizo hili mahususi.
Athari za kimkakati
Cost and budget
Maamuzi ya usanifu huendesha utendaji na gharama ya uendeshaji kwa miaka.
Maamuzi ya wazi zaidi
Elimu ya kiufundi husaidia timu kuchagua safu sahihi, sio tu mpya zaidi.
Quality control
Chaguo bora za uhandisi hupunguza matukio ya kuaminika katika uzalishaji.
Mustakabali wa Mitandao ya Kubana-na-Kusisimua
Vitalu vya SE huishi ndani ya usanifu bora: EfficientNet na MobileNetV3 huzipachika kwenye vizuizi vyao vya ujenzi. Wazo lilizaa familia ya moduli za umakini, CBAM inaongeza umakini wa anga, ECA-Net inachukua nafasi ya kizuizi kwa ubadilishaji wa bei nafuu wa 1D, na hila hizi za kurekebisha uzani mwepesi sasa zinaonekana katika ugunduzi, sehemu, na hata baadhi ya mahuluti ya kubadilisha maono. Tarajia uangalizi wa kituo kubaki kigezo cha usahihi cha gharama ya chini popote pale mibadiliko ikiendelea.
Utekelezaji wa Ulimwengu Halisi
SENet ilishinda shindano la uainishaji la ImageNet ILSVRC 2017 kwa kuongeza vizuizi vya SE kwenye uti wa mgongo wa ResNeXt
EfficientNet na MobileNetV3 hupachika moduli za SE katika kila kizuizi ili kuongeza usahihi kwenye vifaa vya rununu
Vigunduzi vya vitu na miundo ya sehemu huingiza vizuizi vya SE ili kusisitiza chaneli za vipengele vya taarifa
ECA-Net na CBAM hupanua wazo la SE kwa urekebishaji wa kituo cha bei nafuu au kinachofahamu anga.
Hatari & Walinzi
Kuboresha kiwango kimoja kunaweza kuficha udhaifu mkubwa wa mfumo.
Gharama za miundombinu na matengenezo mara nyingi hupunguzwa.
Mapengo ya usalama na uonekanaji yanaweza kukua kadiri mifumo inavyozidi kuwa ngumu.
Ramani ya Utekelezaji
Bainisha muda, ubora na malengo ya gharama kabla ya utekelezaji.
Benchmark chini ya mzigo halisi na hali ya data.
Ufuatiliaji wa ala kwa makosa, kuteleza, na athari za mtumiaji.
Tayarisha njia za urejeshaji na majibu ya matukio kabla ya kuongeza ukubwa.
Endelea Kuchunguza
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Squeeze-and-Excitation Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Mwongozo unaofuata
Mitandao ya Capsule
Maswali yanayoulizwa mara kwa mara
What is Squeeze-and-Excitation Networks?
Vizuizi vya Kubana-na-Kusisimua (SE) huruhusu mtandao wa mageuzi kujifunza kiasi cha kupima kila kipengele cha kipengele, kukirekebisha kulingana na muktadha wa kimataifa. Utaratibu huu wa bei nafuu unaofanana na umakini ulishinda shindano la ImageNet la 2017 na kuwa jengo la kawaida la CNN.
Je! hatua ya 'kubana' kwenye kizuizi cha SE hufanya nini?
Kubana kunatumika kujumuisha wastani wa kimataifa, na kukunja kila ramani ya kipengele kuwa kifafanuzi kimoja kwa kila kituo.
Matokeo ya hatua ya 'msisimko' ni nini?
Msisimko hupitisha vekta iliyobanwa kupitia safu mbili za FC zinazoishia kwa sigmoid, ikitoa uzani wa kuongeza kwa kila kituo.
Je, uzani wa msisimko unatumikaje kwenye ramani za vipengele asili?
Ramani ya kipengele cha kila kituo inazidishwa na uzito wake uliojifunza, kukuza au kukandamiza chaneli hiyo.
Kwa nini msisimko hutumia kizuizi na uwiano wa kupunguza (mara nyingi 16)?
Kikwazo hupungua kisha kurejesha mwelekeo wa kituo, kwa hivyo block ya SE inagharimu asilimia chache tu ya ziada.
SENet ilishinda shindano gani mwaka wa 2017?
SENet ilishinda shindano la uainishaji wa picha la ILSVRC 2017, na kusukuma makosa-5 ya juu hadi takriban 2.25%.