Il prossimoProssima guida
Rilevamento del trasformatore DETR
IA visiva
GUIDA AI visiva
Le Spatial Transformer Networks (STN) sono moduli apprendibili che consentono a una rete neurale di deformare, ruotare, ritagliare o ridimensionare attivamente il proprio input per concentrarsi su ciò che conta.
Ascolta questa guidaNarrato dall'IA · ~2 min
They give CNNs a built-in sense of spatial attention and invariance.
Le reti convoluzionali standard sono solo debolmente invarianti ai cambiamenti di posizione, scala e rotazione e si affidano al pooling per una piccola tolleranza. Reti di trasformatori spaziali, introdotte da Jaderberg et al. nel 2015, risolvi questo problema inserendo un modulo differenziabile che esegue una trasformazione geometrica esplicita sulle mappe delle caratteristiche. Il modulo è composto da tre parti: una rete di localizzazione che prevede i parametri di trasformazione, un generatore di griglia che costruisce una griglia di campionamento da tali parametri e un campionatore che interpola l'input nei punti della griglia. Poiché ogni passaggio è differenziabile, l'intero trasformatore viene addestrato end-to-end mediante backpropagation senza alcuna supervisione aggiuntiva. La rete impara, ad esempio, a raddrizzare le cifre inclinate o a ingrandire la regione pertinente, aumentando la precisione e la robustezza.
Raddrizzamento e allineamento del testo curvo o ruotato prima del riconoscimento nei sistemi OCR del testo della scena
Zoom in regioni discriminanti (come il becco o l'ala di un uccello) per la classificazione delle immagini a grana fine
Normalizzazione della posa e dell'allineamento del viso come fase di preelaborazione nelle pipeline di riconoscimento facciale
Correzione delle distorsioni e allineamento delle scansioni nella registrazione delle immagini mediche
Gli STN hanno influenzato il modo in cui le reti gestiscono la geometria e l'attenzione, alimentando convoluzioni deformabili e moduli di deformazione appresa. Mentre ora dominano i trasformatori dell’autoattenzione, il campionamento differenziabile in stile STN persiste in compiti che richiedono un allineamento geometrico esplicito: riconoscimento del testo, classificazione a grana fine e normalizzazione delle pose. Aspettatevi che deformazioni differenziabili continuino ad apparire nella visione 3D, nel rendering neurale e nella registrazione delle immagini mediche, spesso combinate con l'attenzione anziché sostituite da essa.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Le Spatial Transformer Networks (STN) sono moduli apprendibili che consentono a una rete neurale di deformare, ruotare, ritagliare o ridimensionare attivamente il proprio input per concentrarsi su ciò che conta. Danno alle CNN un senso innato di attenzione spaziale e invarianza.
Gli STN inseriscono un modulo apprendibile in grado di tradurre, ruotare, ridimensionare o deformare le mappe delle caratteristiche per concentrarsi su contenuti rilevanti.
Un STN è costituito da una rete di localizzazione (prevede i parametri), un generatore di griglia (costruisce coordinate di campionamento) e un campionatore (interpola l'input).
L'interpolazione bilineare nel campionatore è differenziabile, quindi i gradienti rifluiscono attraverso il generatore di griglia alla rete di localizzazione, consentendo l'addestramento end-to-end.
Per le trasformazioni affini, la rete di localizzazione prevede sei valori disposti come una matrice 2x3 che codifica traslazione, scala, rotazione e taglio.
Le CNN ottengono solo una modesta invarianza spaziale attraverso il pooling; Gli STN aggiungono un modo esplicito e apprendibile per gestire posizione, scala e rotazione.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Rilevamento del trasformatore DETR
IA visiva