NastępnyNastępny poradnik
Sieci syjamskie i utrata trójek
Techniczne
PRZEWODNIK techniczny
Utrata ogniskowej w przypadku niezrównoważonej detekcji
Strata ogniskowa to zmodyfikowana funkcja straty, która zmniejsza wagę łatwych przykładów, dzięki czemu detektor może skupić się na trudnych, rzadkich.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
Na tej stronie2 minuty czytania
Przegląd
It solved the extreme background-versus-object imbalance that crippled one-stage object detectors.
Głębokie nurkowanie
W przypadku wykrywania obiektów obraz może zawierać tylko kilka rzeczywistych obiektów, ale dziesiątki tysięcy potencjalnych lokalizacji, z których prawie wszystkie stanowią łatwe tło. Przy standardowej entropii krzyżowej ta powódź łatwych negatywów dominuje w gradiencie i zagłusza rzadkie pozytywów. Utrata ogniskowa, wprowadzona w artykule RetinaNet z 2017 r. przez Lin i współpracowników z Facebook AI, rozwiązuje ten problem, mnożąc entropię krzyżową przez współczynnik (1 - p_t)^gamma. Kiedy próbka jest sklasyfikowana pewnie i poprawnie, p_t jest bliskie 1, więc współczynnik maleje do zera, a dobrze sklasyfikowany przykład ledwo ma w tym udział. Twarde, błędnie sklasyfikowane przykłady zachowują prawie pełną wagę. Przy współczynniku gamma wynoszącym około 2 sieć RetinaNet dorównywała lub przewyższała wolniejsze detektory dwustopniowe, takie jak Faster R-CNN, pozostając jednocześnie prostą siecią jednoprzebiegową.
Implementacja w świecie rzeczywistym
Wykrywanie małych znaków drogowych lub odległych pieszych w klatkach jazdy autonomicznej, w których większość pikseli znajduje się w tle.
Znajdowanie rzadkich guzów lub zmian chorobowych w skanach medycznych zdominowanych przez zdrową tkankę.
Wykrywanie defektów na linii produkcyjnej, gdzie zdecydowana większość sprawdzanych części jest normalna.
Identyfikacja małych statków lub pojazdów na dużych zdjęciach satelitarnych i lotniczych.
Przyszłość utraty ogniskowej w przypadku niezrównoważonej detekcji
Utrata ogniskowej stała się domyślnym składnikiem wykraczającym poza sieć RetinaNet i pojawiającym się w detektorach takich jak FCOS, w segmentacji i klasyfikacji z długim ogonem. Warianty takie jak utrata ogniskowa jakości, strata ogniskowa dystrybucyjna i utrata ogniskowa zmiennoogniskowa udoskonalają go w przypadku nowoczesnych detektorów bezkotwiczowych i opartych na transformatorach. W miarę jak wykrywanie przesuwa się w stronę modeli przewidywania zbiorów, takich jak DETR, które wykorzystują dopasowanie dwustronne, ponowne ważenie w stylu ogniskowym pozostaje praktycznym narzędziem wszędzie tam, gdzie częstotliwości klas są poważnie wypaczone.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Koszt i budżet. Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.
- Jaśniejsze decyzje. Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.
- Kontrola jakości. Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.
Uważaj na
- Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.
- Koszty infrastruktury i utrzymania są często niedoszacowane.
- W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.
Kolejne kroki
- Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.
- Test porównawczy w realistycznych warunkach obciążenia i danych.
- Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.
- Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the Focal Loss for Imbalanced Detection quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
What is Focal Loss for Imbalanced Detection?
Strata ogniskowa to zmodyfikowana funkcja straty, która zmniejsza wagę łatwych przykładów, dzięki czemu detektor może skupić się na trudnych, rzadkich. Rozwiązało to ekstremalną nierównowagę między tłem a obiektem, która paraliżowała jednostopniowe detektory obiektów.
Jaki podstawowy problem w jednoetapowym wykrywaniu obiektów miał rozwiązać utrata ogniskowej?
W gęstej detekcji łatwe przykłady tła znacznie przewyższają liczbę rzeczywistych obiektów i dominują w standardowym gradiencie entropii krzyżowej. Utrata ogniskowa zmienia wagę tak rzadko, że trudne przykłady liczą się bardziej.
Jaki jest czynnik modulujący, który mnoży stratę ogniskową na entropię krzyżową?
Strata ogniskowa wynosi -(1 - p_t)^gamma * log(p_t). Składnik (1 - p_t)^gamma kurczy się w stronę zera, aby przewidywania były prawidłowe.
Co dzieje się ze stratą ogniskowej, gdy parametr ogniskowania gamma jest ustawiony na 0?
Przy gamma = 0 współczynnik (1 - p_t)^0 jest równy 1, więc strata ogniskowa zmniejsza się dokładnie do standardowej entropii krzyżowej.
Co zwiększanie gamma robi z łatwymi, dobrze sklasyfikowanymi przykładami?
Wyższa wartość gamma powoduje, że człon (1 - p_t)^gamma kurczy się szybciej w przypadku wysokiego p_t, więc proste przykłady w jeszcze mniejszym stopniu przyczyniają się do strat i gradientu.
Która architektura detektora wprowadziła utratę ogniskową?
W artykule RetinaNet z 2017 r. wprowadzono utratę ogniskową, dzięki czemu jednostopniowy detektor może konkurować z dokładnymi metodami dwustopniowymi.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat