NastępnyNastępny poradnik
Sieci autostrad i połączenia pomijane
Techniczne
PRZEWODNIK techniczny
Sieci kapsułkowe to architektura neuronowa grupująca neurony w „kapsuły”, których wektory wyjściowe kodują zarówno to, czy cecha istnieje, jak i jej położenie (położenie, orientacja, skala).
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
They aim to fix a core blindness in standard convolutional networks: losing track of spatial relationships between parts.
Zaproponowane przez Geoffreya Hintona, Sarę Sabour i Nicholasa Frosta w 2017 roku sieci kapsułkowe zastępują skalarne wyjście neuronu wektorem. Długość wektora reprezentuje prawdopodobieństwo obecności obiektu (takiego jak oko lub nos), podczas gdy jego orientacja koduje parametry pozycji. Kapsuły niższego poziomu przewidują położenie kapsuł wyższego poziomu poprzez macierze transformacji, a proces zwany dynamicznym routingiem na podstawie umowy decyduje, którym przewidywaniom zaufać. Kiedy wiele części-kapsuł łączy się w tę samą całość, routing wzmacnia to połączenie. Oryginalny portal CapsNet osiągnął dobre wyniki w sieci MNIST i był szczególnie odporny na nakładające się cyfry i transformacje afiniczne, rozwiązując „problem Picassa”, w którym CNN akceptują pomieszane rysy twarzy jako prawidłową twarz.
Klasyfikacja odręcznych cyfr w MNIST podczas rekonstrukcji danych wejściowych z wektorów kapsułek, pokazująca, że parametry pozycji mają znaczenie.
Oddzielenie dwóch nakładających się cyfr (zadanie MultiMNIST) poprzez segmentację, które piksele należą do którego elementu.
Badania obrazowania medycznego z wykorzystaniem kapsułek do wykrywania guzków płuc lub guzów mózgu, gdzie znaczenie mają relacje przestrzenne część-całość.
Rozpoznawanie obiektów z nowatorskich punktów widzenia przy użyciu mniejszej liczby przykładów szkoleniowych, wykorzystując wbudowaną w architekturę równoważność punktów widzenia.
Sieci kapsułkowe pozostają raczej kierunkiem badań niż wdrożonym standardem, głównie dlatego, że routing dynamiczny jest kosztowny obliczeniowo i słabo skaluje się w przypadku dużych obrazów, takich jak ImageNet. W późniejszych pracach zbadano routing EM (kapsuły Matrix) i routing oparty na samouważności w celu poprawy wydajności. W miarę wzrostu zainteresowania równoważnością, efektywnością próby i możliwymi do interpretacji hierarchiami część-całość, koncepcje kapsułek w dalszym ciągu wpływają na badania, w tym późniejszą propozycję GLOM Hintona, nawet gdy Transformers dominują w głównym nurcie wizji.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Sieci kapsułkowe to architektura neuronowa grupująca neurony w „kapsuły”, których wektory wyjściowe kodują zarówno to, czy cecha istnieje, jak i jej położenie (położenie, orientacja, skala). Ich celem jest naprawienie podstawowej ślepoty w standardowych sieciach splotowych: utraty kontroli nad relacjami przestrzennymi między częściami.
Długość wektora (wielkość) koduje prawdopodobieństwo istnienia obiektu, podczas gdy jego orientacja koduje parametry pozycji, takie jak położenie i obrót.
Sieci CNN z maksymalnym łączeniem odrzucają precyzyjne relacje przestrzenne, więc twarz z niewłaściwie umiejscowionymi cechami nadal może uzyskać wysoką ocenę. Oto problem, który kapsułki próbują rozwiązać.
Dynamiczne routing według umowy iteracyjnie wzmacnia połączenia między kapsułami, których przewidywania zgadzają się z wyższą wydajnością kapsuły.
Autorami artykułu „Dynamic Routing Between Capsules” z 2017 r. są Sara Sabour, Nicholas Frosst i Geoffrey Hinton.
Nieliniowość squasha zmniejsza krótkie wektory do zera i kończy długie wektory w pobliżu długości jeden, więc wielkość można odczytać jako prawdopodobieństwo, przy zachowaniu orientacji (pozy).
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
Sieci autostrad i połączenia pomijane
Techniczne