Awọn ipilẹ Itọsọna

Ẹgbẹ deede

Iṣe deede Ẹgbẹ jẹ ilana kan ti o ṣe iduroṣinṣin ikẹkọ nẹtiwọọki ti ara nipasẹ ṣiṣe deede awọn ẹya laarin awọn ẹgbẹ kekere ti awọn ikanni, ni ominira fun apẹẹrẹ kọọkan.

Akopọ

Iṣe deede Ẹgbẹ jẹ ilana kan ti o ṣe iduroṣinṣin ikẹkọ nẹtiwọọki ti ara nipasẹ ṣiṣe deede awọn ẹya laarin awọn ẹgbẹ kekere ti awọn ikanni, ni ominira fun apẹẹrẹ kọọkan. O ṣe pataki nitori, ko dabi Iṣe deede Batch, o ṣiṣẹ daradara paapaa nigbati awọn ipele jẹ aami.

Iṣe deede Ẹgbẹ joko ni ohun elo irinṣẹ AI mojuto. Nigbati o ba loye rẹ, awọn akọle AI miiran di rọrun lati ṣe iṣiro ati afiwe.

Jin Dive

Awọn ipele deede jẹ ki awọn nọmba ti nṣàn nipasẹ nẹtiwọki ti o ni iwọn daradara, eyi ti o yara ati idaduro ikẹkọ. Iṣe deede Batch ṣe eyi nipasẹ ṣiṣe iṣiro iwọn ati iyatọ ti ẹya kọọkan kọja gbogbo ipele kekere, ṣugbọn iyẹn jẹ ki o jẹ ẹlẹgẹ nigbati awọn ipele ba kere, nitori awọn iṣiro naa di ariwo ati ti ko ni igbẹkẹle. Isọdọtun Ẹgbẹ, ti Wu ati He ṣe ṣafihan ni ọdun 2018, yọ ipele kuro ni idogba patapata. Fun apẹẹrẹ kọọkan, o pin awọn ikanni si nọmba ti o wa titi ti awọn ẹgbẹ, lẹhinna ṣe deede ẹgbẹ kọọkan ni lilo awọn iye apẹẹrẹ tirẹ nikan. Nitori iširo ko da lori awọn apẹẹrẹ miiran ninu ipele, iṣẹ ṣiṣe duro dada boya ipele naa ni awọn aworan 32 mu tabi ọkan kan, ti o jẹ ki o gbajumọ ni wiwa, ipin, ati awọn iṣẹ-ṣiṣe iran ti o wuwo.

Imọ-imọ-ẹrọ

Ẹgbẹ Norm ṣe iṣiro tumọ ati iyatọ lori awọn iwọn aye ati lori awọn ikanni laarin ẹgbẹ kọọkan, fun apẹẹrẹ. Lẹhinna o ṣe deede si iwọn ilawọn odo ati iyatọ ẹyọkan ati pe o kan ikẹkọ iwọn-ikanni kọọkan (gamma) ati iyipada (beta). O ṣe akopọ awọn igbero miiran: pẹlu ẹgbẹ kan o di Normaization Layer, ati pẹlu ikanni kan fun ẹgbẹ kan o di Isọdi Apeere. Nọmba ẹgbẹ jẹ hyperparameter, nigbagbogbo ṣeto si 32.

Mastering Ẹgbẹ deede

Iṣe deede Ẹgbẹ jẹ ilana kan ti o ṣe iduroṣinṣin ikẹkọ nẹtiwọọki ti ara nipasẹ ṣiṣe deede awọn ẹya laarin awọn ẹgbẹ kekere ti awọn ikanni, ni ominira fun apẹẹrẹ kọọkan. O ṣe pataki nitori, ko dabi Iṣe deede Batch, o ṣiṣẹ daradara paapaa nigbati awọn ipele jẹ aami. Iṣe deede Ẹgbẹ joko ni ohun elo irinṣẹ AI mojuto. Nigbati o ba loye rẹ, awọn akọle AI miiran di rọrun lati ṣe iṣiro ati afiwe. Lati kọ oye ti o jinlẹ, ṣe itọju Ẹgbẹ deede bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣalaye awọn arosọ, ati yapa ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.

Ni iṣe, awọn ẹgbẹ ti o lagbara ni lilo Isọdi Ẹgbẹ kọ awọn awoṣe imọran ti o lagbara ni akọkọ, lẹhinna ya awọn awoṣe wọnyẹn si awọn ihamọ iṣelọpọ gidi. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.

O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita. Ni akoko kanna, Awọn ẹgbẹ oriṣiriṣi le lo ọrọ kanna ni oriṣiriṣi, nitorinaa ṣalaye iwọn ni kutukutu. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.

Ipa Ilana

O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita.

O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.

O le beere awọn ibeere imuse to dara julọ ṣaaju lilo owo tabi akoko.

O le beere awọn ibeere imuse to dara julọ ṣaaju lilo owo tabi akoko. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.

Awọn ẹgbẹ pẹlu oye pinpin ṣe ọja to dara julọ, eto imulo, ati awọn ipinnu ikẹkọ.

Awọn ẹgbẹ pẹlu oye pinpin ṣe ọja to dara julọ, eto imulo, ati awọn ipinnu ikẹkọ. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.

Ojo iwaju ti deede Ẹgbẹ

Iṣe deede Ẹgbẹ duro ni lilọ-si yiyan nibikibi ti awọn ipele gbọdọ jẹ kekere, gẹgẹbi wiwa ipinnu giga ati ipin, 3D ati awọn awoṣe fidio, ati ikẹkọ opin-iranti. O tun jẹ ifibọ sinu awọn faaji ti ipilẹṣẹ ti o lo pupọ bi awọn U-Nets inu awọn awoṣe itankale. Bi awọn awoṣe ti ndagba ati titẹ iranti titari awọn iwọn ipele si isalẹ, awọn olutọpa ominira ti o ni ominira, Ẹgbẹ Norm laarin wọn lẹgbẹẹ Layer Norm, o ṣee ṣe lati jẹ awọn bulọọki ile aiyipada, pẹlu iwadii ilọsiwaju sinu awọn arabara ati awọn omiiran ti ko ni isọdọtun.

Real-World imuse

Wiwa nkan ati apakan apẹẹrẹ (fun apẹẹrẹ, Awọn awoṣe ara iboju R-CNN) ti ikẹkọ pẹlu awọn ipele GPU kekere pupọ.

Awọn ẹhin U-Net inu awọn olupilẹṣẹ aworan kaakiri, nibiti Ẹgbẹ Norm ṣe iduroṣinṣin awọn irẹjẹ ẹya.

3D ati awọn nẹtiwọọki fidio nibiti iranti giga nlo awọn iwọn ipele ipa si ọkan tabi meji.

Ṣiṣatunṣe awọn awoṣe iran nla ti o dara lori ohun elo ti o lopin nibiti awọn ipele kekere jẹ ki awọn iṣiro Batch Norm jẹ igbẹkẹle.

Awọn Ilana imuse

Ẹgbẹ Normalisation ni iwa

Wiwa nkan ati apakan apẹẹrẹ (fun apẹẹrẹ, Awọn awoṣe ara iboju R-CNN) ti ikẹkọ pẹlu awọn ipele GPU kekere pupọ.

Wiwa nkan ati apakan apẹẹrẹ (fun apẹẹrẹ, Awọn awoṣe ara iboju R-CNN) ti ikẹkọ pẹlu awọn ipele kekere-GPU awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe ni akoko pupọ.

Ẹgbẹ Normalisation ni iwa

Awọn ẹhin U-Net inu awọn olupilẹṣẹ aworan kaakiri, nibiti Ẹgbẹ Norm ṣe iduroṣinṣin awọn irẹjẹ ẹya.

Awọn ẹhin U-Net inu awọn olupilẹṣẹ aworan kaakiri, nibiti Ẹgbẹ Norm ṣe iduroṣinṣin awọn irẹjẹ ẹya Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe ni akoko pupọ.

Ẹgbẹ Normalisation ni iwa

3D ati awọn nẹtiwọọki fidio nibiti iranti giga nlo awọn iwọn ipele ipa si ọkan tabi meji.

3D ati awọn nẹtiwọọki fidio nibiti iranti giga ti nlo awọn iwọn ipele ipa si ọkan tabi meji Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.

Ẹgbẹ Normalisation ni iwa

Ṣiṣatunṣe awọn awoṣe iran nla ti o dara lori ohun elo ti o lopin nibiti awọn ipele kekere jẹ ki awọn iṣiro Batch Norm jẹ igbẹkẹle.

Ṣiṣatunṣe awọn awoṣe iran nla ti o dara lori ohun elo ti o lopin nibiti awọn ipele kekere jẹ ki awọn iṣiro Batch Norm jẹ igbẹkẹle Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe ni akoko pupọ.

Awọn ewu & Awọn ọna iṣọ

!

Awọn ẹgbẹ oriṣiriṣi le lo ọrọ kanna ni oriṣiriṣi, nitorinaa ṣalaye iwọn ni kutukutu.

!

Awọn aṣepari le wo lagbara lakoko ti iṣẹ-aye gidi ko ṣe deede.

!

Aibikita didara data ati awọn ero igbelewọn nigbagbogbo ṣẹda awọn abajade ẹlẹgẹ.

Ilana Ilana imuse

1

Bẹrẹ pẹlu itumọ-ede itele ti abajade ti o nilo.

Bẹrẹ pẹlu itumọ-ede itele ti abajade ti o nilo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

2

Mu metiriki aṣeyọri kan ati ipo ikuna kan ṣaaju idanwo.

Mu metiriki aṣeyọri kan ati ipo ikuna kan ṣaaju idanwo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

3

Ṣiṣe awakọ kekere kan pẹlu data aṣoju, kii ṣe eto demo didan.

Ṣiṣe awakọ kekere kan pẹlu data aṣoju, kii ṣe eto demo didan. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

4

Iwe-ipamọ nibiti Isọdọtun Ẹgbẹ ṣe iranlọwọ ati nibiti awọn ọna ti o rọrun dara julọ.

Iwe-ipamọ nibiti Isọdọtun Ẹgbẹ ṣe iranlọwọ ati nibiti awọn ọna ti o rọrun dara julọ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.

Tesiwaju Ṣiṣawari