GUIDA AI visiva

Convoluzioni deformabili

Le convoluzioni deformabili consentono a una rete neurale di piegare la propria griglia di campionamento per seguire la forma effettiva degli oggetti invece di forzarla attraverso una finestra quadrata rigida.

Ascolta questa guidaNarrato dall'IA · ~2 min

In questa pagina2 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro delle convoluzioni deformabili
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Ciò rende i modelli molto più bravi a gestire forme strane, cambiamenti di scala e distorsioni geometriche.

Immersione profonda

Una convoluzione normale campiona i pixel con offset fissi: una griglia ordinata 3x3 centrata su ciascuna posizione. Funziona bene per le texture, ma fatica quando gli oggetti sono inclinati, allungati o dalla forma strana. Le convoluzioni deformabili, introdotte da Dai e colleghi alla Microsoft Research nel 2017, aggiungono un piccolo offset appreso a ciascuno di questi punti di campionamento. La rete esamina l'input e prevede uno spostamento 2D per ogni posizione della griglia, quindi il campo recettivo può deformarsi per abbracciare un bordo curvo o seguire un arto inclinato. Il pooling RoI deformabile applica la stessa idea alle caratteristiche della regione. La versione 2 (2018) ha aggiunto pesi di modulazione per punto, consentendo allo strato di smorzare o amplificare ciascun campione, il che ha migliorato la precisione del rilevamento degli oggetti su benchmark come COCO.

Implementazione nel mondo reale

Rilevamento di oggetti su COCO, dove gli strati deformabili aumentano la precisione su oggetti allungati o ruotati come treni e giraffe

Segmentazione semantica delle scene stradali, che aiuta i modelli a tracciare indicazioni stradali curve e contorni irregolari di edifici

DETR deformabile per il rilevamento end-to-end, utilizzando gli offset appresi per rendere efficiente l'attenzione del trasformatore

Imaging medico, in cui tumori e organi hanno forme non rigide che le griglie fisse catturano scarsamente

Il futuro delle convoluzioni deformabili

L'attenzione deformabile è diventata la spina dorsale del rilevamento moderno: il DETR deformabile utilizza offset di campionamento appresi per rendere l'attenzione del trasformatore scarsa e veloce, riducendo drasticamente i tempi di addestramento rispetto al DETR originale. Aspettatevi che il principio deformabile continui a diffondersi nei video, nelle nuvole di punti 3D e nei modelli del linguaggio visivo, dove il campionamento adattivo aiuta a gestire il movimento, l'occlusione e la geometria irregolare. Con il miglioramento del supporto hardware per l’accesso irregolare alla memoria, anche gli operatori deformabili dovrebbero diventare più economici e più ampiamente distribuiti sui dispositivi edge.

Metterlo in pratica

Perché è importante

  • Velocità e scala. L’intelligenza artificiale visiva può automatizzare le attività di ispezione, rilevamento ed etichettatura su larga scala.
  • Scelte di build. I team creativi possono prototipare i concetti più velocemente con meno revisioni manuali.
  • Team e flusso di lavoro. Le operazioni possono utilizzare segnali immagine e video che in precedenza erano difficili da elaborare.

Attenzione

  • I diritti di immagine e il consenso possono diventare rischi legali se la provenienza non è chiara.
  • Le prestazioni del modello possono variare in base all'illuminazione, ai dati demografici e agli ambienti.
  • I falsi positivi possono passare inosservati a meno che non vengano monitorate le soglie di confidenza.

Prossimi passi

  1. Definire i criteri di accettazione per i costi di precisione, richiamo ed errore.
  2. Testare con dati che corrispondono alle reali condizioni di produzione.
  3. Aggiungi la revisione umana per previsioni poco attendibili o ad alto impatto.
  4. Tieni traccia della deriva del modello e riconvalida dopo le modifiche alla fotocamera o al set di dati.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Take the Deformable Convolutions quiz

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Che cosa sono le convoluzioni deformabili?

Le convoluzioni deformabili consentono a una rete neurale di piegare la propria griglia di campionamento per seguire la forma effettiva degli oggetti invece di forzarla attraverso una finestra quadrata rigida. Ciò rende i modelli molto più bravi a gestire forme strane, cambiamenti di scala e distorsioni geometriche.

Cosa aggiunge una convoluzione deformabile rispetto a una convoluzione standard?

Le convoluzioni deformabili prevedono un offset appreso (dx, dy) per ciascuna posizione di campionamento, consentendo alla griglia di deformarsi per adattarsi alle forme degli oggetti.

Come vengono generati gli offset di campionamento in una convoluzione deformabile?

Un ramo di convoluzione parallela emette gli offset, che vengono appresi end-to-end tramite backpropagation.

Poiché gli offset previsti sono generalmente frazionari, come vengono campionati i valori dei pixel in quelle posizioni?

Gli offset frazionari richiedono l'interpolazione bilineare, che mantiene l'operazione differenziabile per l'addestramento.

Cosa ha aggiunto Deformable ConvNets v2 (2018) rispetto all'originale?

v2 ha introdotto la modulazione, un peso appreso per punto di campionamento che può amplificare o sopprimere la sua influenza, migliorando la precisione.

Perché le convoluzioni deformabili sono particolarmente utili per oggetti di forma irregolare?

Piegando la griglia di campionamento, il campo recettivo effettivo si allinea con la geometria dell'oggetto invece che con un quadrato rigido.