Visual AI Itọsọna

Awọn nẹtiwọki ti o ku

Awọn Nẹtiwọọki Residual (ResNets) jẹ awọn nẹtiwọọki nkankikan ti o jinlẹ ti o ṣafikun 'awọn asopọ fo' jẹ ki awọn fẹlẹfẹlẹ kọ ẹkọ awọn atunṣe kekere dipo awọn iyipada kikun.

2 min kakẹhin imudojuiwọn

Akopọ

Ẹtan ti o rọrun yii jẹ ki o ṣee ṣe lati ṣe ikẹkọ awọn nẹtiwọọki awọn ọgọọgọrun awọn fẹlẹfẹlẹ jinlẹ, fifa fifo ni deede idanimọ aworan.

Jin Dive

Ṣaaju ResNets, akopọ ọpọlọpọ awọn fẹlẹfẹlẹ paradoxically ṣe awọn nẹtiwọọki ṣe buru, paapaa lori data ikẹkọ, iṣoro ti a pe ni ibajẹ. Ni ọdun 2015, awọn oniwadi Microsoft Kaiming He ati awọn ẹlẹgbẹ rẹ ṣe agbekalẹ bulọọki ti o ku: dipo bibeere akopọ awọn fẹlẹfẹlẹ lati ṣe iṣelọpọ H(x) taara, wọn jẹ ki o kọ iṣẹku F(x) = H(x) - x, lẹhinna ṣafikun igbewọle atilẹba x pada nipasẹ ọna abuja kan. Ti Layer ko ba nilo, o le kọ ẹkọ lati ṣe ohunkohun (F(x) = 0). ResNet-152 gba idije ImageNet 2015 pẹlu aṣiṣe oke-5 ti iwọn 3.6 ogorun, lilu awọn iṣiro ipele eniyan, ati faaji rẹ di ẹhin ipilẹ fun wiwa, ipin, ati aworan iṣoogun.

Imọ-imọ-ẹrọ

Asopọ foo yi pada iṣẹ bulọọki kọọkan si y = F(x) + x. Lakoko isọdọtun, gradient nṣan nipasẹ ọna abuja idanimọ ko yipada, nitorinaa ko le parẹ si isunmọ odo paapaa kọja awọn ọgọọgọrun awọn ipele. Eleyi ntọju jin akopọ trainable. Awọn ọna abuja idanimọ ṣafikun ko si awọn aye afikun; nikan nigbati titẹ sii ati awọn iwọn iṣelọpọ yatọ ṣe asọtẹlẹ kekere (1x1 convolution) ṣatunṣe awọn iwọn ṣaaju afikun.

Ipa Ilana

Iyara ati iwọn

Visual AI le ṣe adaṣe adaṣe, wiwa, ati awọn iṣẹ ṣiṣe taagi ni iwọn.

Kọ awọn yiyan

Awọn ẹgbẹ ẹda le ṣe apẹrẹ awọn imọran yiyara pẹlu awọn atunyẹwo afọwọṣe diẹ.

Ẹgbẹ ati ṣiṣan iṣẹ

Awọn iṣẹ ṣiṣe le lo aworan ati awọn ifihan agbara fidio ti o nira tẹlẹ lati ṣiṣẹ.

Ojo iwaju ti Awọn nẹtiwọki ti o ku

Awọn asopọ ti o ku ni bayi ti sunmọ gbogbo agbaye: Awọn iyipada, awọn awoṣe itankale, ati awọn awoṣe ede nla gbogbo wọn lo lati ṣe iduroṣinṣin ikẹkọ ti awọn akopọ ti o jinlẹ pupọ. Iwadi n tẹsiwaju lori awọn iyatọ bii ResNets iṣaaju-iṣiṣẹ, awọn ọna akojọpọ ResNeXt, ati apapọ awọn imọran iyokù pẹlu ikẹkọ ọfẹ isọdọtun. Reti ipilẹ-asopọ-asopọ mojuto lati tẹsiwaju bi bulọọki ile aiyipada, paapaa bi awọn faaji agbegbe ṣe yipada kuro ni awọn iyipada mimọ si akiyesi ati awọn apẹrẹ arabara.

Real-World imuse

Awọn eegun ẹhin ipinya ImageNet (ResNet-50, ResNet-101) ti a lo bi awọn olutọpa ẹya ti a ti kọ tẹlẹ fun ẹkọ gbigbe

Tumor ati wiwa ọgbẹ ni redio ati awọn aworan ẹkọ nipa lilo awọn koodu koodu orisun ResNet

Wiwa nkan ati apẹẹrẹ awọn ilana ipin bi Yara R-CNN ati Mask R-CNN ti o lo awọn ẹhin ResNet

Awọn opo gigun ti oye wiwakọ ti ara ẹni ti o ṣe iyatọ awọn ẹlẹsẹ, awọn ọkọ, ati awọn ami lati awọn fireemu kamẹra

Awọn ewu & Awọn ọna iṣọ

Awọn ẹtọ aworan ati igbanilaaye le di awọn eewu labẹ ofin ti o ba jẹ afihan.

Iṣe awoṣe le yatọ kọja ina, awọn ẹda eniyan, ati awọn agbegbe.

Awọn idaniloju eke le ma ṣe akiyesi ayafi ti a ba ṣe abojuto awọn ala igbẹkẹle.

Ilana Ilana imuse

1

Ṣetumo awọn ibeere gbigba fun pipe, iranti, ati awọn idiyele aṣiṣe.

2

Ṣe idanwo pẹlu data ti o baamu awọn ipo iṣelọpọ gidi.

3

Ṣafikun atunyẹwo eniyan fun igbẹkẹle kekere tabi awọn asọtẹlẹ ipa-giga.

4

Tọpinpin awoṣe ki o ṣe tunṣe lẹhin kamẹra tabi awọn ayipada datasetto.

Tesiwaju Ṣiṣawari

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Residual Networks quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Bẹrẹ adanwo

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Itọsọna atẹle

Ẹya Jibiti Networks

Awọn ibeere ti a beere nigbagbogbo

Kini Awọn nẹtiwọọki Iyokù?

Awọn Nẹtiwọọki Residual (ResNets) jẹ awọn nẹtiwọọki nkankikan ti o jinlẹ ti o ṣafikun 'awọn asopọ fo' jẹ ki awọn fẹlẹfẹlẹ kọ ẹkọ awọn atunṣe kekere dipo awọn iyipada kikun. Ẹtan ti o rọrun yii jẹ ki o ṣee ṣe lati kọ awọn nẹtiwọọki awọn ọgọọgọrun awọn ipele ti o jinlẹ, ti nfa fifo ni deede idanimọ aworan.

Isoro wo ni awọn asopọ to ku ni pato yanju?

Ṣaaju awọn ResNets, fifi awọn fẹlẹfẹlẹ diẹ sii fa deede lati dinku paapaa lori data ikẹkọ. Rekọja awọn asopọ ti o wa titi eyi nipa ṣiṣe awọn fẹlẹfẹlẹ rọrun lati mu dara.

Kí ni a péye Àkọsílẹ kosi iṣiro bi awọn oniwe-jade?

Awọn abajade bulọọki ti o ku y = F(x) + x, fifi iṣẹku ti ẹkọ kun si kikọ sii nipasẹ asopọ foo.

Kini idi ti awọn asopọ foju ṣe iranlọwọ awọn gradients lakoko ikẹkọ?

Ọna abuja idanimọ n pese ọna taara fun awọn gradients lati ṣàn sẹhin laisi iyipada, idilọwọ iṣoro isọnu-afẹfẹ ni awọn akopọ ti o jinlẹ pupọ.

Ni aijọju awọn ipele melo ni awoṣe ResNet ti o bori lati ọdun 2015 ni?

ResNet-152, pẹlu awọn ipele 152, gba idije ImageNet 2015, ti n ṣe afihan pe awọn nẹtiwọọki ti o jinlẹ le ni ikẹkọ ni aṣeyọri.

Ti awọn ipele bulọọki iyokù kọ F(x) = 0, kini idina naa ṣe?

Nigbati F(x) = 0, abajade jẹ x nikan, nitorinaa bulọki naa di aworan idanimọ. Eyi jẹ ki awọn ipele afikun jẹ laiseniyan ti wọn ko ba nilo.