Il prossimoProssima guida
Funzionalità online e offline che servono Skew
Tecnico
GUIDA TECNICA
L'hard negative mining sceglie gli esempi più informativi e difficili da distinguere su cui allenarsi invece di sprecare sforzi su quelli facili su cui il modello già funziona.
Ascolta questa guidaNarrato dall'IA · ~2 min
It is the trick that makes metric learning and object detection converge fast and accurately.
Quando si allena con perdite triplette o contrastive, la maggior parte dei negativi campionati casualmente sono già lontani dall'ancora, quindi producono zero perdite e nessun gradiente, l'allenamento si blocca. Il mining negativo risolve questo problema selezionando elementi negativi rigidi: esempi che sono erroneamente vicini all'ancora. Nel mining offline, esegui periodicamente la scansione del set di dati per trovarli, il che è lento e diventa obsoleto. Il mining online li calcola al volo all'interno di ogni mini-batch: dopo un passaggio in avanti, guardi tutte le distanze a coppie nel batch e scegli i trasgressori più difficili. FaceNet ha introdotto il mining semi-duro, scegliendo i negativi più lontani dei positivi ma comunque all'interno del margine, evitando l'instabilità che i negativi assolutamente più difficili possono causare all'inizio dell'addestramento.
Formazione sul riconoscimento facciale: FaceNet utilizza il mining online semi-duro per apprendere gli incorporamenti che separano gli individui somiglianti.
Rilevamento di oggetti: SSD e rilevatori simili applicano un duro mining negativo per bilanciare il flusso di riquadri di sfondo facili rispetto a riquadri di oggetti rari.
Recupero di passaggi densi: i sistemi di ricerca e RAG estraggono documenti negativi che sembrano rilevanti ma non lo sono, affinando il retriever.
Sistemi di raccomandazione: i modelli estraggono elementi su cui un utente non ha fatto clic ma che assomigliavano a elementi cliccati, insegnando distinzioni più fini nel gusto.
Il principio, allenarsi su ciò che è difficile, ora guida l’apprendimento contrastivo autosupervisionato, dove grandi pool negativi in batch (e banche di memoria come MoCo) forniscono confronti difficili senza etichette. I ricercatori stanno perfezionando quanto dovrebbe essere duro un negativo, dal momento che i negativi troppo duri spesso risultano essere etichettati erroneamente o positivi quasi duplicati che corrompono l'addestramento. Aspettatevi un mining più intelligente e consapevole dell'incertezza e negativi sintetici generati dal modello stesso, oltre a una più stretta integrazione con i sistemi di recupero che estraggono negativi rigidi dalle query degli utenti reali.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
L'hard negative mining sceglie gli esempi più informativi e difficili da distinguere su cui allenarsi invece di sprecare sforzi su quelli facili su cui il modello già funziona. È il trucco che fa sì che l’apprendimento delle metriche e il rilevamento degli oggetti convergano in modo rapido e accurato.
I negativi facili si trovano ben oltre il margine, soddisfano già la perdita e sostanzialmente non contribuiscono con alcun gradiente, quindi l’allenamento si blocca.
Il mining online calcola le distanze a coppie all'interno del batch corrente in ogni passaggio, mentre il mining offline esegue periodicamente la scansione dell'intero set di dati e può diventare obsoleto.
I negativi semiduri sono più lontani dall'ancoraggio rispetto ai positivi ma cadono all'interno del margine, fornendo gradienti utili e stabili senza l'instabilità dei casi assoluti più difficili.
L'estrazione batch-hard seleziona i casi più difficili: per ogni ancora prende il positivo più lontano e il negativo più vicino (più confuso) nel batch.
Un batch più grande produce una matrice di distanza a coppie più grande, quindi ci sono più candidati negativi per estrarre il più difficile da ogni passaggio.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Funzionalità online e offline che servono Skew
Tecnico