Depthwise Iyapa Convolutions
Awọn convolutions iyapa ti o jinlẹ ṣe ifọkansi iyipada boṣewa kan si awọn igbesẹ ti o din owo meji, ti npa nọmba awọn isodipupo ati awọn ayeraye.
Akopọ
They are the trick that lets neural networks run on phones and edge devices without melting the battery.
Jin Dive
Iparapọ boṣewa kan dapọ alaye kọja aaye mejeeji ati awọn ikanni ni iṣẹ ipon kan, eyiti o jẹ gbowolori. Iyika iyapa ti o jinlẹ ti o pin eyi si awọn ipele meji. Ni akọkọ, igbesẹ ijinlẹ naa kan àlẹmọ kekere kan fun ikanni titẹ sii ni ominira, yiya awọn ilana aye laarin ikanni kọọkan ṣugbọn kii ṣe dapọ awọn ikanni. Ni ẹẹkeji, igbesẹ ti o ni imọran nlo iyipada 1x1 lati darapo awọn ikanni ni piksẹli kọọkan, dapọ alaye ikanni lai wo awọn aladugbo. Nipa yiyo sisẹ aaye lati dapọ ikanni, apapọ iṣiro lapapọ ṣubu silẹ ni iyalẹnu, nigbagbogbo nipasẹ awọn akoko 8 si 9 fun àlẹmọ 3x3, pẹlu pipadanu deede kekere nikan. Isọtọ yii jẹ ẹhin ti MobileNet ati Xception.
Imọ-imọ-ẹrọ
Fun awọn ikanni igbewọle 3x3 ekuro M si awọn abajade N lori maapu ẹya kan, idiyele idiwọn kan ni aijọju awọn akoko 9 M igba N isodipupo fun ipo kan. Ẹya ti o yapa jẹ idiyele awọn akoko 9 M fun apakan ti o jinlẹ pẹlu awọn akoko M N fun ọgbọn-ọrọ 1x1. Ipin naa jẹ nipa 1/N + 1/9, nitorinaa fun N nla awọn ifowopamọ ọna 1/9 ifosiwewe aaye.
Ipa Ilana
Iye owo ati isuna
Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun.
Awọn ipinnu diẹ sii
Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan.
Iṣakoso didara
Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ.
Ojo iwaju ti Depthwise Iyapa Convolutions
Awọn convolutions iyapa ti o jinlẹ jẹ ipilẹ ti awọn awoṣe iran ti o munadoko ati ti o pọ si han ni arabara CNN-transformer awọn aṣa bii MobileViT ati awọn bulọọki ConvNeXt. Bi ẹrọ AI ti n dagba, awọn imuyara ohun elo n ṣafikun atilẹyin abinibi fun awọn ops ijinle. Reti lilo tẹsiwaju ni iran gidi-akoko, awọn sensosi wearable, ati eto eyikeyi nibiti aisimi, iranti, ati awọn isuna agbara ti pọ, nigbagbogbo ni idapo pẹlu titobi ati wiwa faaji ti iṣan.
Real-World imuse
MobileNet ati MobileNetV2 lo wọn lati ṣiṣe awọn ipin aworan taara lori awọn fonutologbolori pẹlu lairi kekere
Pipin aworan akoko gidi ati blur isale ni awọn ohun elo pipe fidio gbarale awọn eegun ẹhin iyapa iwuwo fẹẹrẹ
Wiwa ohun elo lori ẹrọ ni awọn kamẹra aabo ati awọn drones, nibiti agbara ati iṣiro ti ni opin
Xception kan wọn ni iwọn lati Titari išedede ImageNet lakoko ṣiṣakoso kika paramita
Awọn ewu & Awọn ọna iṣọ
Ṣiṣepe ala-ilẹ kan le tọju awọn ailagbara eto ti o gbooro.
Awọn ohun elo amayederun ati awọn idiyele itọju nigbagbogbo ni aibikita.
Aabo ati awọn ela akiyesi le dagba bi awọn eto ṣe di eka sii.
Ilana Ilana imuse
Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse.
Aṣepari labẹ ẹru ojulowo ati awọn ipo data.
Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo.
Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Depthwise Separable Convolutions quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Deformable Convolutions
Awọn ibeere ti a beere nigbagbogbo
What is Depthwise Separable Convolutions?
Awọn convolutions iyapa ti o jinlẹ ṣe ifọkansi iyipada boṣewa kan si awọn igbesẹ ti o din owo meji, ti npa nọmba awọn isodipupo ati awọn ayeraye. Wọn jẹ ẹtan ti o jẹ ki awọn nẹtiwọọki nkankikan ṣiṣẹ lori awọn foonu ati awọn ẹrọ eti laisi yo batiri naa.
Kini awọn igbesẹ meji ti ariyanjiyan ti o ya sọtọ ti o jinlẹ ti o pin ipinya boṣewa kan si?
Igbesẹ ti o jinlẹ ṣe asẹ ikanni kọọkan ni aye lori ara rẹ, ati igbesẹ 1x1 wise lẹhinna ṣajọpọ alaye kọja awọn ikanni.
Ni igbesẹ ti o jinlẹ, bawo ni a ṣe tọju awọn ikanni titẹ sii?
Ijinle convolution kan lọtọ aye àlẹmọ si kọọkan input ikanni lai dapọ awọn ikanni, eyi ti o jẹ ohun ti o mu ki o poku.
Ni aijọju melo ni 3x3 ijinle iyapa convolution le dinku iṣiro ni akawe si iṣọpọ 3x3 boṣewa pẹlu ọpọlọpọ awọn ikanni iṣelọpọ bi?
Fun ekuro 3x3, ipin ifowopamọ n sunmọ 1/9 nigbati nọmba awọn ikanni ti o jade jẹ nla, fifun ni aijọju 8 si 9 awọn iṣẹ diẹ sii.
Kini ipa ti itọka-ọrọ (1x1) ni apẹrẹ yii?
1x1 convolutionwise pointwise parapo awọn ikanni ni gbogbo ẹbun, eyiti igbese ijinle yago fun imomose.
Iru faaji ti a mọ daradara wo ni o jẹ ki awọn iyipada iyapa jinlẹ jinlẹ fun awọn ẹrọ alagbeka?
MobileNet ni a ṣe ni ayika awọn iyipada iyapa ti o jinlẹ ni pataki lati jẹ ki itọkasi daradara lori awọn foonu.