NastępnyNastępny poradnik
DETR Wykrywanie transformatora
Wizualna sztuczna inteligencja
PRZEWODNIK Wizualnej AI
Przestrzenne sieci transformatorowe (STN) to moduły, których można się nauczyć, które pozwalają sieci neuronowej aktywnie wypaczać, obracać, przycinać lub zmieniać skalowanie danych wejściowych, aby skupić się na tym, co ważne.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
They give CNNs a built-in sense of spatial attention and invariance.
Standardowe sieci splotowe są jedynie słabo niezmienne w przypadku zmian położenia, skali i rotacji, opierając się na łączeniu w celu uzyskania niewielkiej tolerancji. Przestrzenne sieci transformatorowe, wprowadzone przez Jaderberga i in. w 2015 r. napraw ten problem, wstawiając różniczkowalny moduł, który wykonuje jawną transformację geometryczną na mapach obiektów. Moduł składa się z trzech części: sieci lokalizacyjnej, która przewiduje parametry transformacji, generatora siatki, który buduje siatkę próbkowania na podstawie tych parametrów, oraz próbnika, który interpoluje dane wejściowe w punktach siatki. Ponieważ każdy krok jest różniczkowy, cały transformator jest szkolony od początku do końca poprzez propagację wsteczną, bez dodatkowego nadzoru. Sieć uczy się na przykład prostowania przechylonych cyfr lub powiększania odpowiedniego regionu, zwiększając dokładność i niezawodność.
Prostowanie i wyrównywanie zakrzywionego lub obróconego tekstu przed rozpoznaniem w systemach OCR z tekstem sceny
Powiększanie obszarów wyróżniających się (takich jak dziób lub skrzydła ptaka) w celu drobnoziarnistej klasyfikacji obrazu
Normalizowanie ułożenia i wyrównania twarzy jako etap przetwarzania wstępnego w potokach rozpoznawania twarzy
Korygowanie zniekształceń i wyrównywanie skanów w rejestracji obrazu medycznego
STN wpłynęły na sposób, w jaki sieci radzą sobie z geometrią i uwagą, tworząc odkształcalne sploty i moduły wyuczonego wypaczania. Chociaż obecnie dominują transformatory samouważności, różniczkowe próbkowanie w stylu STN jest nadal stosowane w zadaniach wymagających wyraźnego wyrównania geometrycznego: rozpoznawanie tekstu, drobnoziarnista klasyfikacja i normalizacja pozycji. Można się spodziewać, że zróżnicowane zniekształcenia będą nadal pojawiać się w obrazie 3D, renderowaniu neuronowym i rejestracji obrazów medycznych, często w połączeniu z uwagą, a nie przez nią zastępowaną.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Przestrzenne sieci transformatorowe (STN) to moduły, których można się nauczyć, które pozwalają sieci neuronowej aktywnie wypaczać, obracać, przycinać lub zmieniać skalowanie danych wejściowych, aby skupić się na tym, co ważne. Dają CNN wbudowane poczucie uwagi przestrzennej i niezmienności.
STN wstawiają moduł, którego można się nauczyć, który może tłumaczyć, obracać, skalować lub wypaczać mapy obiektów, aby skupić się na odpowiedniej treści.
STN składa się z sieci lokalizacyjnej (przewiduje parametry), generatora siatki (buduje współrzędne próbkowania) i próbnika (interpoluje dane wejściowe).
Interpolacja dwuliniowa w próbniku jest różniczkowalna, więc gradienty przepływają z powrotem przez generator siatki do sieci lokalizacyjnej, umożliwiając kompleksowe szkolenie.
W przypadku transformacji afinicznych sieć lokalizacji przewiduje sześć wartości ułożonych w macierz 2x3 kodującą translację, skalę, obrót i ścinanie.
CNN osiągają jedynie niewielką niezmienność przestrzenną poprzez łączenie; STN dodają wyraźny, możliwy do nauczenia sposób obsługi pozycji, skali i obrotu.
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
DETR Wykrywanie transformatora
Wizualna sztuczna inteligencja