Il prossimoProssima guida
CUPED Variance Reduction
Tecnico
GUIDA TECNICA
Barlow Twins è un metodo autosupervisionato che apprende le rappresentazioni avvicinando la matrice di correlazione incrociata tra due viste aumentate alla matrice di identità.
Ascolta questa guidaNarrato dall'IA · ~2 min
Evita il collasso attraverso un principio di riduzione della ridondanza piuttosto che tramite codificatori negativi o di slancio.
Proposto da Facebook AI nel 2021 e intitolato al principio di riduzione della ridondanza del neuroscienziato H. Barlow, Barlow Twins alimenta due visualizzazioni distorte di un'immagine attraverso reti identiche per produrre due lotti di incorporamenti. Calcola la matrice di correlazione incrociata tra i componenti di questi due vettori di incorporamento, misurati nel batch. L'obiettivo spinge questa matrice verso l'identità: le voci diagonali dovrebbero essere 1 (ogni caratteristica è invariante rispetto all'aumento) e le voci fuori diagonale dovrebbero essere 0 (le diverse caratteristiche sono decorrelate, riducendo la ridondanza). Il termine sulla diagonale impone l'invarianza; il termine di riduzione della ridondanza fuori diagonale previene naturalmente il collasso perché le caratteristiche decorrelate non possono essere tutte identiche. A differenza di BYOL non necessita di asimmetria, predittore o gradiente di arresto e, a differenza di SimCLR, non necessita di coppie negative, sebbene tragga vantaggio da incorporamenti ad alta dimensione.
Codificatori di immagini di pre-addestramento che producono funzionalità decorrelate utili per la classificazione a valle con dati etichettati limitati.
Formazione su hardware moderato in cui batch negativi di grandi dimensioni non sono pratici, poiché Barlow Twins è relativamente insensibile alle dimensioni del batch.
Generazione di incorporamenti compatti e non ridondanti per il rilevamento di cluster o anomalie nelle immagini di sensori industriali.
Serve come base di riferimento autocontrollata nella ricerca che confronta le strategie di prevenzione del collasso tra SimCLR, BYOL e VICReg.
Barlow Twins ha contribuito a innescare una famiglia di metodi di auto-supervisione della teoria dell'informazione, in particolare VICReg, che separa esplicitamente i termini di varianza, invarianza e covarianza. Ci si aspetta che gli obiettivi di riduzione della ridondanza e di decorrelazione delle funzionalità continuino a informare il modo in cui preaddestriamo i codificatori che producono funzionalità compatte e non ridondanti e si estendano oltre le immagini in contesti multimodali e di serie temporali in cui rappresentazioni robuste e decorrelate aiutano i modelli a valle ad apprendere da etichette limitate.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Barlow Twins è un metodo autosupervisionato che apprende le rappresentazioni avvicinando la matrice di correlazione incrociata tra due viste aumentate alla matrice di identità. Evita il collasso attraverso un principio di riduzione della ridondanza piuttosto che tramite codificatori negativi o di slancio.
The method forms a cross-correlation matrix from representations of two distorted views.
The paper defines the objective by making the cross-correlation matrix close to identity.
The diagonal term encourages invariance between matching feature components.
The method reduces redundancy by pushing off-diagonal correlations toward zero.
The original Barlow Twins paper describes avoiding negatives and matching the cross-correlation matrix to identity.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
CUPED Variance Reduction
Tecnico