LegközelebbKövetkező útmutató
CUPED Variance Reduction
Műszaki
Műszaki ÚTMUTATÓ
A Barlow Twins egy önfelügyelt módszer, amely úgy tanulja meg a reprezentációkat, hogy a két kiterjesztett nézet közötti keresztkorrelációs mátrixot az identitásmátrixhoz közelíti.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
A összeomlást egy redundancia-csökkentés elv segítségével kerüli el, nem negatív vagy impulzuskódolókkal.
A Facebook AI által 2021-ben javasolt és H. Barlow idegtudós redundancia-csökkentési elvéről elnevezett Barlow Twins egy kép két torz nézetét táplálja azonos hálózatokon keresztül, így két köteg beágyazást hoz létre. Kiszámítja a keresztkorrelációs mátrixot e két beágyazóvektor komponensei között, a kötegben mérve. A cél ezt a mátrixot az azonosság felé tolja: az átlós bejegyzéseknek 1-nek kell lenniük (mindegyik jellemző invariáns a kibővítéshez képest), az átlón kívüli bejegyzéseknek pedig 0-nak kell lenniük (a különböző jellemzők dekorrelálódnak, csökkentve a redundanciát). Az átlós tag az invarianciát kényszeríti ki; az átlón kívüli redundancia-csökkentés kifejezés természetesen megakadályozza az összeomlást, mivel a dekorrelált jellemzők nem lehetnek azonosak. A BYOL-lal ellentétben nincs szüksége aszimmetriára, előrejelzőre vagy stop-gradiensre, és a SimCLR-rel ellentétben nincs szüksége negatív párokra, bár a nagydimenziós beágyazás előnyeit élvezi.
Előképzett képkódolók, amelyek dekorrelált funkciókat adnak, amelyek hasznosak a korlátozott címkézett adatok utáni osztályozáshoz.
Mérsékelt hardvereken való képzés, ahol a nagy negatív kötegek nem praktikusak, mivel a Barlow Twins viszonylag érzéketlen a kötegméretre.
Kompakt, nem redundáns beágyazások létrehozása klaszterek vagy anomáliák észleléséhez az ipari szenzorképekben.
Önfelügyelt kiindulópontként szolgál a SimCLR, BYOL és VICReg összeomlás-elkerülési stratégiáinak összehasonlító kutatásában.
A Barlow Twins segített létrehozni az önfelügyelt módszerek információelméleti családját, nevezetesen a VICReg-t, amely kifejezetten elválasztja a variancia, az invariancia és a kovariancia kifejezéseket. A redundancia-csökkentési és a jellemző-dekorrelációs célkitűzések folyamatosan tájékoztatják a kompakt, nem redundáns funkciókat előállító kódolók előképzését, és a képeken túl a multimodális és idősoros beállításokat is kiterjesztik, ahol a dekorrelált, robusztus ábrázolások segítenek a későbbi modelleknek tanulni a korlátozott címkékből.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Barlow Twins egy önfelügyelt módszer, amely úgy tanulja meg a reprezentációkat, hogy a két kiterjesztett nézet közötti keresztkorrelációs mátrixot az identitásmátrixhoz közelíti. A redundancia-csökkentés elvének köszönhetően elkerüli az összeomlást, nem pedig a negatívumok vagy a momentumkódolók révén.
The method forms a cross-correlation matrix from representations of two distorted views.
The paper defines the objective by making the cross-correlation matrix close to identity.
The diagonal term encourages invariance between matching feature components.
The method reduces redundancy by pushing off-diagonal correlations toward zero.
The original Barlow Twins paper describes avoiding negatives and matching the cross-correlation matrix to identity.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
CUPED Variance Reduction
Műszaki