Urekebishaji wa Kikundi
Urekebishaji wa Kikundi ni mbinu inayoleta utulivu wa mafunzo ya mtandao wa neva kwa kurekebisha vipengele ndani ya vikundi vidogo vya chaneli, kwa kujitegemea kwa kila mfano.
Muhtasari
It matters because, unlike Batch Normalization, it works well even when batches are tiny.
Dive ya kina
Safu za urekebishaji huweka nambari zinazopita kupitia mtandao kwa kiwango kizuri, ambacho huharakisha na kuleta mafunzo. Kusawazisha Bechi hufanya hivi kwa kukokotoa wastani na tofauti za kila kipengele kwenye kundi zima, lakini hiyo huifanya kuwa tete wakati bechi ni ndogo, kwa kuwa takwimu huwa na kelele na zisizotegemewa. Urekebishaji wa Kikundi, ulioanzishwa na Wu and He mnamo 2018, huondoa kundi kutoka kwa mlinganyo kabisa. Kwa kila mfano wa mtu binafsi, inagawanya chaneli katika idadi maalum ya vikundi, kisha kurekebisha kila kikundi kwa kutumia tu maadili ya mfano huo. Kwa sababu hesabu haitegemei mifano mingine katika kundi, utendakazi hudumu kwa uthabiti iwe bechi inashikilia picha 32 au moja tu, hivyo kuifanya iwe maarufu katika ugunduzi, ugawaji na kazi za kuona zenye kumbukumbu.
Ufahamu wa Kiufundi
Kawaida ya Kikundi hukokotoa wastani na tofauti juu ya vipimo vya anga na juu ya chaneli ndani ya kila kikundi, kwa kila sampuli. Kisha inasawazisha kuwa sifuri wastani na tofauti ya kitengo na kutumia mizani iliyojifunza kwa kila kituo (gamma) na shift (beta). Hufanya skimu zingine kwa ujumla: kwa kundi moja inakuwa Urekebishaji wa Tabaka, na kwa chaneli moja kwa kila kikundi inakuwa Urekebishaji wa Instance. Hesabu ya kikundi ni hyperparameta, mara nyingi huwekwa hadi 32.
Athari za kimkakati
Maamuzi ya wazi zaidi
Inakusaidia kutenganisha madai ya wazi ya kiufundi kutoka kwa lugha ya uuzaji.
Cost and budget
Unaweza kuuliza maswali ya utekelezaji bora kabla ya kutumia pesa au wakati.
Timu na mtiririko wa kazi
Timu zenye uelewa wa pamoja hufanya maamuzi bora ya bidhaa, sera na mafunzo.
Mustakabali wa Urekebishaji wa Kikundi
Urekebishaji wa Kikundi husalia kuwa chaguo la kufanya popote lazima bechi ziwe ndogo, kama vile ugunduzi na ugawaji wa msongo wa juu, miundo ya 3D na video, na mafunzo yasiyo na kumbukumbu. Pia imepachikwa katika usanifu mzalishaji unaotumika sana kama vile U-Nets ndani ya miundo ya usambaaji. Miundo inapokua na shinikizo la kumbukumbu kusukuma ukubwa wa bechi chini, viambajengo visivyojitegemea kwa kundi, Kawaida ya Kundi miongoni mwavyo pamoja na Layer Norm, vina uwezekano wa kubaki vizuizi chaguomsingi vya ujenzi, pamoja na kuendelea kwa utafiti kuhusu mihuluti na njia mbadala zisizo na urekebishaji.
Utekelezaji wa Ulimwengu Halisi
Utambuzi wa kitu na utengaji wa mifano (k.m., miundo ya mtindo wa Mask R-CNN) iliyofunzwa kwa bechi ndogo sana kwa kila GPU.
Migongo ya U-Net ndani ya jenereta za picha za uenezi, ambapo Norm ya Kundi huimarisha mizani ya vipengele.
Mitandao ya 3D na video ambapo kumbukumbu ya juu hutumia saizi ya bechi hadi moja au mbili.
Kurekebisha vizuri miundo mikubwa ya kuona kwenye maunzi machache ambapo bechi ndogo hufanya takwimu za Batch Norm zisitegemeke.
Hatari & Walinzi
Timu tofauti zinaweza kutumia neno moja tofauti, kwa hivyo fafanua upeo mapema.
Vigezo vinaweza kuonekana kuwa na nguvu ilhali utendakazi wa ulimwengu halisi haufanani.
Kupuuza ubora wa data na mipango ya tathmini mara nyingi huleta matokeo tete.
Ramani ya Utekelezaji
Anza na ufafanuzi wa lugha rahisi wa matokeo unayohitaji.
Chagua kipimo kimoja cha mafanikio na hali moja ya kutofaulu kabla ya kujaribu.
Tekeleza majaribio madogo yenye data wakilishi, si seti ya onyesho iliyoboreshwa.
Hati ambapo Urekebishaji wa Kikundi husaidia na ambapo mbinu rahisi ni bora zaidi.
Endelea Kuchunguza
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Group Normalization quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Mwongozo unaofuata
Urekebishaji wa Zawadi uliowekwa katika vikundi katika RLHF
Maswali yanayoulizwa mara kwa mara
What is Group Normalization?
Urekebishaji wa Kikundi ni mbinu inayoleta utulivu wa mafunzo ya mtandao wa neva kwa kurekebisha vipengele ndani ya vikundi vidogo vya chaneli, kwa kujitegemea kwa kila mfano. Ni muhimu kwa sababu, tofauti na Urekebishaji wa Kundi, inafanya kazi vizuri hata wakati bechi ni ndogo.
Je, ni faida gani kuu ya Urekebishaji wa Kikundi dhidi ya Urekebishaji wa Kundi?
Kwa sababu Kanuni ya Kundi hukokotoa takwimu kwa kila mfano badala ya kundi zima, haiharibiwi na vikundi vidogo, tofauti na Batch Norm.
Je, Urekebishaji wa Kikundi unajumuisha maana na tofauti zake juu ya nini?
Inagawanya chaneli katika vikundi na kuhalalisha kila kikundi kwa kutumia tu maadili ya mfano huo mmoja na maeneo ya anga, ikipuuza kundi lingine.
Urekebishaji wa Kikundi unakuwa Urekebishaji wa Tabaka katika hali gani maalum?
Kwa kikundi kimoja, vituo vyote vinasawazishwa pamoja kwa kila mfano, ambayo ni Urekebishaji wa Tabaka haswa.
Urekebishaji wa Kikundi unakuwa Urekebishaji wa Kawaida katika hali gani maalum?
Ikiwa kila kikundi kinashikilia chaneli moja, kila chaneli inasawazishwa kivyake kwa kila mfano, ambayo ni Urekebishaji wa Instance.
Baada ya kuhalalisha, Kanuni ya Kikundi inatumika nini kurejesha unyumbulifu wa uwakilishi?
Kama safu zingine za urekebishaji, Kawaida ya Kikundi inajumuisha viwango vinavyoweza kusomeka na vigezo vya kuhama ili mtandao uweze kutendua au kurekebisha urekebishaji inavyohitajika.