PRZEWODNIK techniczny

Sieci kapsułkowe

Sieci kapsułkowe to architektura neuronowa grupująca neurony w „kapsuły”, których wektory wyjściowe kodują zarówno to, czy cecha istnieje, jak i jej położenie (położenie, orientacja, skala).

Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min

Na tej stronie2 minuty czytania
  1. Przegląd
  2. Głębokie nurkowanie
  3. Implementacja w świecie rzeczywistym
  4. Przyszłość sieci kapsułek
  5. Wdrażanie tego w praktykę
  6. Odkrywaj dalej
  7. Często zadawane pytania

Przegląd

They aim to fix a core blindness in standard convolutional networks: losing track of spatial relationships between parts.

Głębokie nurkowanie

Zaproponowane przez Geoffreya Hintona, Sarę Sabour i Nicholasa Frosta w 2017 roku sieci kapsułkowe zastępują skalarne wyjście neuronu wektorem. Długość wektora reprezentuje prawdopodobieństwo obecności obiektu (takiego jak oko lub nos), podczas gdy jego orientacja koduje parametry pozycji. Kapsuły niższego poziomu przewidują położenie kapsuł wyższego poziomu poprzez macierze transformacji, a proces zwany dynamicznym routingiem na podstawie umowy decyduje, którym przewidywaniom zaufać. Kiedy wiele części-kapsuł łączy się w tę samą całość, routing wzmacnia to połączenie. Oryginalny portal CapsNet osiągnął dobre wyniki w sieci MNIST i był szczególnie odporny na nakładające się cyfry i transformacje afiniczne, rozwiązując „problem Picassa”, w którym CNN akceptują pomieszane rysy twarzy jako prawidłową twarz.

Implementacja w świecie rzeczywistym

Klasyfikacja odręcznych cyfr w MNIST podczas rekonstrukcji danych wejściowych z wektorów kapsułek, pokazująca, że ​​parametry pozycji mają znaczenie.

Oddzielenie dwóch nakładających się cyfr (zadanie MultiMNIST) poprzez segmentację, które piksele należą do którego elementu.

Badania obrazowania medycznego z wykorzystaniem kapsułek do wykrywania guzków płuc lub guzów mózgu, gdzie znaczenie mają relacje przestrzenne część-całość.

Rozpoznawanie obiektów z nowatorskich punktów widzenia przy użyciu mniejszej liczby przykładów szkoleniowych, wykorzystując wbudowaną w architekturę równoważność punktów widzenia.

Przyszłość sieci kapsułek

Sieci kapsułkowe pozostają raczej kierunkiem badań niż wdrożonym standardem, głównie dlatego, że routing dynamiczny jest kosztowny obliczeniowo i słabo skaluje się w przypadku dużych obrazów, takich jak ImageNet. W późniejszych pracach zbadano routing EM (kapsuły Matrix) i routing oparty na samouważności w celu poprawy wydajności. W miarę wzrostu zainteresowania równoważnością, efektywnością próby i możliwymi do interpretacji hierarchiami część-całość, koncepcje kapsułek w dalszym ciągu wpływają na badania, w tym późniejszą propozycję GLOM Hintona, nawet gdy Transformers dominują w głównym nurcie wizji.

Wdrażanie tego w praktykę

Dlaczego to ma znaczenie

  • Koszt i budżet. Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.
  • Jaśniejsze decyzje. Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.
  • Kontrola jakości. Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.

Uważaj na

  • Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.
  • Koszty infrastruktury i utrzymania są często niedoszacowane.
  • W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.

Kolejne kroki

  1. Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.
  2. Test porównawczy w realistycznych warunkach obciążenia i danych.
  3. Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.
  4. Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.

Odkrywaj dalej

Darmowy newsletter

Otrzymuj codzienne podsumowanie AI

Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.

Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.

Sprawdź się

Take the Capsule Networks quiz

Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.

Rozpocznij quiz

Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę

Często zadawane pytania

What is Capsule Networks?

Sieci kapsułkowe to architektura neuronowa grupująca neurony w „kapsuły”, których wektory wyjściowe kodują zarówno to, czy cecha istnieje, jak i jej położenie (położenie, orientacja, skala). Ich celem jest naprawienie podstawowej ślepoty w standardowych sieciach splotowych: utraty kontroli nad relacjami przestrzennymi między częściami.

Co w sieci kapsuł reprezentuje DŁUGOŚĆ wektora wyjściowego kapsuły?

Długość wektora (wielkość) koduje prawdopodobieństwo istnienia obiektu, podczas gdy jego orientacja koduje parametry pozycji, takie jak położenie i obrót.

Jaki problem ze standardowymi CNN zaprojektowano specjalnie dla sieci kapsułowych?

Sieci CNN z maksymalnym łączeniem odrzucają precyzyjne relacje przestrzenne, więc twarz z niewłaściwie umiejscowionymi cechami nadal może uzyskać wysoką ocenę. Oto problem, który kapsułki próbują rozwiązać.

Jak nazywa się algorytm decydujący, które kapsuły niższego poziomu łączą się z którymi kapsułami wyższego poziomu?

Dynamiczne routing według umowy iteracyjnie wzmacnia połączenia między kapsułami, których przewidywania zgadzają się z wyższą wydajnością kapsuły.

Kto wprowadził sieć kapsułek z dynamicznym routingiem w 2017 roku?

Autorami artykułu „Dynamic Routing Between Capsules” z 2017 r. są Sara Sabour, Nicholas Frosst i Geoffrey Hinton.

Jaki jest cel funkcji „squash” w sieci kapsułek?

Nieliniowość squasha zmniejsza krótkie wektory do zera i kończy długie wektory w pobliżu długości jeden, więc wielkość można odczytać jako prawdopodobieństwo, przy zachowaniu orientacji (pozy).