Il prossimoProssima guida
Convoluzioni separabili in profondità
Tecnico
GUIDA AI visiva
Le convoluzioni deformabili consentono a una rete neurale di piegare la propria griglia di campionamento per seguire la forma effettiva degli oggetti invece di forzarla attraverso una finestra quadrata rigida.
Ascolta questa guidaNarrato dall'IA · ~2 min
Ciò rende i modelli molto più bravi a gestire forme strane, cambiamenti di scala e distorsioni geometriche.
Una convoluzione normale campiona i pixel con offset fissi: una griglia ordinata 3x3 centrata su ciascuna posizione. Funziona bene per le texture, ma fatica quando gli oggetti sono inclinati, allungati o dalla forma strana. Le convoluzioni deformabili, introdotte da Dai e colleghi alla Microsoft Research nel 2017, aggiungono un piccolo offset appreso a ciascuno di questi punti di campionamento. La rete esamina l'input e prevede uno spostamento 2D per ogni posizione della griglia, quindi il campo recettivo può deformarsi per abbracciare un bordo curvo o seguire un arto inclinato. Il pooling RoI deformabile applica la stessa idea alle caratteristiche della regione. La versione 2 (2018) ha aggiunto pesi di modulazione per punto, consentendo allo strato di smorzare o amplificare ciascun campione, il che ha migliorato la precisione del rilevamento degli oggetti su benchmark come COCO.
Rilevamento di oggetti su COCO, dove gli strati deformabili aumentano la precisione su oggetti allungati o ruotati come treni e giraffe
Segmentazione semantica delle scene stradali, che aiuta i modelli a tracciare indicazioni stradali curve e contorni irregolari di edifici
DETR deformabile per il rilevamento end-to-end, utilizzando gli offset appresi per rendere efficiente l'attenzione del trasformatore
Imaging medico, in cui tumori e organi hanno forme non rigide che le griglie fisse catturano scarsamente
L'attenzione deformabile è diventata la spina dorsale del rilevamento moderno: il DETR deformabile utilizza offset di campionamento appresi per rendere l'attenzione del trasformatore scarsa e veloce, riducendo drasticamente i tempi di addestramento rispetto al DETR originale. Aspettatevi che il principio deformabile continui a diffondersi nei video, nelle nuvole di punti 3D e nei modelli del linguaggio visivo, dove il campionamento adattivo aiuta a gestire il movimento, l'occlusione e la geometria irregolare. Con il miglioramento del supporto hardware per l’accesso irregolare alla memoria, anche gli operatori deformabili dovrebbero diventare più economici e più ampiamente distribuiti sui dispositivi edge.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Le convoluzioni deformabili consentono a una rete neurale di piegare la propria griglia di campionamento per seguire la forma effettiva degli oggetti invece di forzarla attraverso una finestra quadrata rigida. Ciò rende i modelli molto più bravi a gestire forme strane, cambiamenti di scala e distorsioni geometriche.
Le convoluzioni deformabili prevedono un offset appreso (dx, dy) per ciascuna posizione di campionamento, consentendo alla griglia di deformarsi per adattarsi alle forme degli oggetti.
Un ramo di convoluzione parallela emette gli offset, che vengono appresi end-to-end tramite backpropagation.
Gli offset frazionari richiedono l'interpolazione bilineare, che mantiene l'operazione differenziabile per l'addestramento.
v2 ha introdotto la modulazione, un peso appreso per punto di campionamento che può amplificare o sopprimere la sua influenza, migliorando la precisione.
Piegando la griglia di campionamento, il campo recettivo effettivo si allinea con la geometria dell'oggetto invece che con un quadrato rigido.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Convoluzioni separabili in profondità
Tecnico