Műszaki ÚTMUTATÓ

BYOL és nem kontrasztos önfelügyelet

A BYOL (Bootstrap Your Own Latent) címkék és meglepő módon negatív példák nélkül tanul meg hasznos képábrázolásokat.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A BYOL és a nem kontrasztív önfelügyelet jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Megmutatta, hogy az önfelügyelt tanulásnak nem kell arra támaszkodnia, hogy széttolja a különböző képeket, elkerülve a hatalmas mennyiségű negatív szükségességét.

Mély merülés

A legtöbb korai önfelügyelt módszer kontrasztos volt: ugyanazon kép két kibővített nézetét húzták össze, miközben a különböző képeket széttolták, amihez sok negatív mintára volt szükség az összeomlás elkerülése érdekében (ahol a hálózat mindenre ugyanazt a vektort adja ki). A BYOL a DeepMindből 2020-ban teljesen eltávolította a negatívumokat. Két hálózatot használ: egy online hálózatot és egy célhálózatot. Egy kép két bővített nézete megy keresztül a két hálózaton; az online hálózat egy előrejelzési fejet ad hozzá, és meg van tanítva arra, hogy megjósolja a másik nézet célhálózati reprezentációját. Kritikus, hogy a célhálózat súlyait nem a gradiens süllyedés edzi. Ehelyett az online súlyok exponenciális mozgóátlaga (EMA). Ez az aszimmetria és az EMA célpont megakadályozza, hogy a kontrasztív módszerek triviális összeomlása féltve, megfeleljen vagy felülmúlja a kontrasztív alapvonalakat az ImageNet-en.

Valós megvalósítás

A látás gerincének előképzése több millió címkézetlen fényképen, majd finomhangolás egy kis címkézett orvosi képalkotó adatkészleten, ahol a szakértői megjegyzések alig állnak rendelkezésre.

A robot érzékelési jellemzőinek elsajátítása nyers kamerafolyamokból kézi címkézés nélkül, csökkentve a manipulációs feladatok oktatásának költségeit.

Képlekérési és duplikációs rendszerek építése BYOL beágyazásokkal, amelyek vizuálisan hasonló képeket csoportosítanak osztálycímke nélkül.

Műhold- vagy légifelvételi modellek inicializálása hatalmas, címkézetlen archívumokban, mielőtt finomhangolnák a területhasználat vagy az erdőirtás besorolását.

A BYOL és a nem kontrasztív önfelügyelet jövője

A nem kontrasztos ötletek ma már az önfelügyelt látásmód nagy részét rögzítik. A SimSiam tovább csökkentette a BYOL-t, megmutatva, hogy az EMA-célpont nem feltétlenül szükséges, ha a stop-gradiens be van tartva, így jobban megértjük, miért kerülhető el az összeomlás. Várható, hogy ezek a címkementes előképzési receptek folyamatosan egyesüljenek a maszkos képmodellezéssel és a multimodális képzéssel, és elterjedjenek a video-, audio-, orvosi képalkotásban és a robotikában, ahol a címkék szűkösek vagy drágák, gyakran a könnyű, felügyelt finomhangolás előtti előképzési szakaszként.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the BYOL and Non-Contrastive Self-Supervision quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a BYOL és a nem kontrasztív önfelügyelet?

A BYOL (Bootstrap Your Own Latent) mindenféle címke és meglepő módon negatív példák nélkül tanul meg hasznos képábrázolásokat. Megmutatta, hogy az önfelügyelt tanulásnak nem kell arra támaszkodnia, hogy széttolja a különböző képeket, elkerülve a hatalmas mennyiségű negatívum szükségességét.

What makes BYOL non-contrastive?

The BYOL paper highlights learning representations without negative pairs.

What does the online network learn to predict?

BYOL trains the online branch to predict the target representation across two views.

How are target-network weights updated?

The paper describes updating the target with a slow-moving average.

Why does BYOL use an online predictor and stop-gradient on the target side?

The BYOL method uses asymmetry and a stop-gradient as parts of its design.

What happens to two views of the same image in BYOL?

The paper learns by predicting one view’s target representation from another.