LegközelebbKövetkező útmutató
Autópálya-hálózatok és kapcsolatok kihagyása
Műszaki
Műszaki ÚTMUTATÓ
A kapszulahálózatok olyan neurális architektúrák, amelyek a neuronokat „kapszulákba” csoportosítják, amelyek vektorokat adnak ki, amelyek kódolják mind azt, hogy létezik-e egy adottság, mind pedig annak helyzetét (pozíció, tájolás, lépték).
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
They aim to fix a core blindness in standard convolutional networks: losing track of spatial relationships between parts.
A Geoffrey Hinton, Sara Sabour és Nicholas Frosst által 2017-ben javasolt kapszulahálózatok a skaláris neuron kimenetét vektorral helyettesítik. A vektor hossza azt a valószínűséget jelenti, hogy egy entitás (például egy szem vagy egy orr) jelen van, míg az orientációja pózparamétereket kódol. Az alacsonyabb szintű kapszulák transzformációs mátrixokon keresztül jósolják meg a magasabb szintű kapszulák helyzetét, és egy megállapodásonkénti dinamikus útválasztásnak nevezett folyamat dönti el, hogy melyik előrejelzésben bízzon meg. Ha több részkapszula megegyezik ugyanabban az egészben, az útválasztás megerősíti ezt a kapcsolatot. Az eredeti CapsNet erős eredményeket ért el az MNIST-en, és különösen robusztus volt az átfedő számjegyek és az affin transzformációk tekintetében, megoldva a „Picasso-problémát”, ahol a CNN-ek a zavaros arcvonásokat érvényes arcként fogadják el.
A kézírásos számjegyek osztályozása az MNIST-en, miközben a kapszulavektorokból rekonstruálja a bemenetet, és megmutatja a pózparamétereket, értelmes.
Két egymást átfedő számjegy elválasztása (a MultiMNIST feladat) szegmentálva, hogy mely pixelek melyik entitáshoz tartoznak.
Orvosi képalkotó kutatás kapszulákkal tüdőcsomók vagy agydaganatok kimutatására, ahol a rész-egész térbeli kapcsolatok számítanak.
Az objektumok felismerése újszerű nézőpontokból, kevesebb gyakorlati példával, kihasználva az architektúra beépített nézőpont-egyenértékűségét.
A kapszulahálózatok továbbra is inkább kutatási irányok, semmint alkalmazott szabványok, főként azért, mert a dinamikus útválasztás számítási szempontból költséges, és rosszul méretezhető olyan nagyméretű képekhez, mint az ImageNet. A későbbi munkák az EM útválasztást (Matrix Capsules) és az önfigyelem alapú útválasztást vizsgálták a hatékonyság javítása érdekében. Ahogy az ekvivariancia, a minta hatékonysága és az értelmezhető rész-egész hierarchiák iránti érdeklődés növekszik, a kapszulaötletek továbbra is befolyásolják a kutatást, beleértve Hinton későbbi GLOM-javaslatát, még akkor is, ha a Transformers uralja a mainstream víziót.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A kapszulahálózatok olyan neurális architektúrák, amelyek a neuronokat „kapszulákba” csoportosítják, amelyek vektorokat adnak ki, amelyek kódolják mind azt, hogy létezik-e egy adottság, mind pedig annak helyzetét (pozíció, tájolás, lépték). Céljuk a szabványos konvolúciós hálózatok alapvető vakságának kijavítása: az alkatrészek közötti térbeli kapcsolatok nyomának elvesztése.
A vektor hossza (nagysága) az entitás létezésének valószínűségét kódolja, míg az orientációja olyan pózparamétereket kódol, mint a pozíció és az elforgatás.
A max-pooling funkcióval rendelkező CNN-ek elvetik a pontos térbeli kapcsolatokat, így a rosszul elhelyezett jellemzőkkel rendelkező arc továbbra is magas pontszámot érhet el. Ezt a „Picasso-problémát” próbálják megoldani a kapszulák.
A megállapodásonkénti dinamikus útválasztás iteratív módon erősíti a kapcsolatokat a kapszulák között, amelyek előrejelzései megegyeznek a magasabb kapszula kimenetével.
A 2017-es „Dynamic Routing Between Capsules” című tanulmányt Sara Sabour, Nicholas Frosst és Geoffrey Hinton írta.
A squash nemlinearitás a rövid vektorokat nulla felé zsugorítja, a hosszú vektorokat pedig egy hosszúság közelébe zárja, így a nagyság valószínűségként olvasható le, miközben az orientáció (póz) megmarad.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Autópálya-hálózatok és kapcsolatok kihagyása
Műszaki