NastępnyNastępny poradnik
Pseudo-etykietowanie i samokształcenie
Techniczne
PRZEWODNIK techniczny
BYOL i niekontrastywna samokontrola
BYOL (Bootstrap Your Own Laten) uczy się przydatnych reprezentacji obrazów bez żadnych etykiet i, co zaskakujące, bez negatywnych przykładów.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
Na tej stronie2 minuty czytania
Przegląd
Okazało się, że samonadzorowane uczenie się nie musi polegać na oddzielaniu od siebie odmiennych obrazów i unikaniu konieczności tworzenia ogromnych partii negatywów.
Głębokie nurkowanie
Większość wczesnych metod samonadzoru była kontrastowa: łączyły dwa rozszerzone widoki tego samego obrazu, jednocześnie odsuwając od siebie różne obrazy, co wymagało wielu próbek negatywowych, aby uniknąć załamania (gdzie sieć generuje dla wszystkiego ten sam wektor). BYOL z DeepMind w 2020 r. całkowicie usunął negatywy. Wykorzystuje dwie sieci: sieć internetową i sieć docelową. Dwa powiększone widoki jednego obrazu przechodzą przez dwie sieci; sieć online dodaje głowicę predykcyjną i jest szkolona w zakresie przewidywania reprezentacji drugiego widoku w sieci docelowej. Co najważniejsze, wagi sieci docelowej nie są szkolone przez opadanie gradientu. Zamiast tego są wykładniczą średnią ruchomą (EMA) wag online. Ta asymetria plus docelowa EMA zapobiega trywialnemu załamaniu się metod kontrastowych, których się obawiano, dopasowując lub pokonując kontrastowe linie bazowe w ImageNet.
Implementacja w świecie rzeczywistym
Wstępne uczenie szkieletu wizji na milionach nieoznakowanych zdjęć, a następnie dostrajanie na małym, oznaczonym zbiorze danych z obrazowania medycznego, w którym adnotacje ekspertów są rzadkie.
Uczenie się funkcji percepcji robota na podstawie surowych strumieni z kamer bez ręcznego etykietowania, co zmniejsza koszty nauczania zadań manipulacyjnych.
Tworzenie systemów wyszukiwania i deduplikacji obrazów przy użyciu osadzania BYOL, które grupują wizualnie podobne obrazy bez żadnych etykiet klas.
Inicjowanie modeli zdjęć satelitarnych lub lotniczych na rozległych, nieoznakowanych archiwach przed dostrojeniem pod kątem klasyfikacji użytkowania gruntów lub wylesiania.
Przyszłość BYOL i niekontrastywnej samonadzoru
Niekontrastowe idee stanowią obecnie podstawę większości samonadzorowanej wizji. SimSiam jeszcze bardziej uprościł BYOL, pokazując, że docelowa EMA nie jest bezwzględnie wymagana, jeśli zachowany zostanie gradient zatrzymania, co pogłębiło zrozumienie, dlaczego unika się załamania. Można się spodziewać, że te pozbawione etykiet przepisy na wstępne szkolenie będą nadal łączyć się z modelowaniem zamaskowanych obrazów i szkoleniem multimodalnym, a także rozprzestrzeniać się na wideo, audio, obrazowanie medyczne i robotykę tam, gdzie etykiet jest niewiele lub są drogie, często jako etap wstępnego szkolenia przed lekkim nadzorowanym dostrajaniem.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Koszt i budżet. Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.
- Jaśniejsze decyzje. Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.
- Kontrola jakości. Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.
Uważaj na
- Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.
- Koszty infrastruktury i utrzymania są często niedoszacowane.
- W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.
Kolejne kroki
- Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.
- Test porównawczy w realistycznych warunkach obciążenia i danych.
- Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.
- Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the BYOL and Non-Contrastive Self-Supervision quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Czym jest BYOL i niekontrastywna samokontrola?
BYOL (Bootstrap Your Own Laten) uczy się przydatnych reprezentacji obrazów bez żadnych etykiet i, co zaskakujące, bez negatywnych przykładów. Okazało się, że samonadzorowane uczenie się nie musi polegać na oddzielaniu od siebie odmiennych obrazów i unikaniu konieczności tworzenia ogromnych partii negatywów.
What makes BYOL non-contrastive?
The BYOL paper highlights learning representations without negative pairs.
What does the online network learn to predict?
BYOL trains the online branch to predict the target representation across two views.
How are target-network weights updated?
The paper describes updating the target with a slow-moving average.
Why does BYOL use an online predictor and stop-gradient on the target side?
The BYOL method uses asymmetry and a stop-gradient as parts of its design.
What happens to two views of the same image in BYOL?
The paper learns by predicting one view’s target representation from another.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat