Panoramica
I Vision Transformers (ViTs) applicano l'architettura del trasformatore che alimenta ChatGPT alle immagini, trattando un'immagine come una sequenza di patch anziché una griglia di pixel. Hanno dimostrato che non sono necessarie convoluzioni per ottenere un riconoscimento delle immagini all'avanguardia.
Vision Transformers appartiene ai flussi di lavoro di visione artificiale che interpretano o generano media visivi per analisi, operazioni e creatività.
Immersione profonda
Per anni, le reti neurali convoluzionali (CNN) hanno dominato la visione artificiale scansionando piccoli filtri su un’immagine. L'articolo del 2020 "An Image Is Worth 16x16 Words" di Google ha sfidato questo problema suddividendo un'immagine in patch fisse, in genere 16x16 pixel, appiattindole ciascuna in un vettore e inserendo la sequenza risultante in un trasformatore standard. Ogni patch diventa un "segno", proprio come una parola in una frase. Il modello utilizza quindi l'autoattenzione in modo che ogni patch possa collegarsi direttamente a ogni altra patch, catturando relazioni a lungo raggio che un piccolo filtro convoluzionale non può vedere in un solo passaggio. Il problema: i ViT sono affamati di dati perché mancano dei presupposti incorporati delle CNN. Addestrati su enormi set di dati come JFT-300M, hanno eguagliato o battuto le migliori CNN, rimodellando la moderna ricerca sulla visione.
Approfondimento tecnico
Un ViT divide un'immagine in patch non sovrapposte, proietta ciascuna patch in modo lineare in un incorporamento e aggiunge codifiche posizionali in modo che il modello sappia dove si trovava ciascuna patch nell'immagine originale. È anteposto uno speciale "token di classe" apprendibile; la sua rappresentazione finale guida la classificazione. Gli strati sovrapposti di autoattenzione consentono a ciascuna patch di pesare le informazioni di tutte le altre, fornendo un campo ricettivo globale dal livello uno. Poiché l’attenzione cresce in modo quadratico con il numero di patch, le immagini ad alta risoluzione diventano costose, motivo per cui le dimensioni delle patch e le varianti di attenzione efficienti sono importanti.
Padroneggiare i trasformatori di visione
I Vision Transformers (ViTs) applicano l'architettura del trasformatore che alimenta ChatGPT alle immagini, trattando un'immagine come una sequenza di patch anziché una griglia di pixel. Hanno dimostrato che non sono necessarie convoluzioni per ottenere un riconoscimento delle immagini all'avanguardia. Vision Transformers appartiene ai flussi di lavoro di visione artificiale che interpretano o generano media visivi per analisi, operazioni e creatività. Per creare una comprensione profonda, tratta Vision Transformers come un modello operativo, non come una singola caratteristica: definisci i risultati desiderati, chiarisci le ipotesi e separa ciò che il sistema può fare in modo affidabile da ciò che richiede ancora il giudizio di esperti.
In pratica, i team forti che utilizzano Vision Transformers bilanciano l'accuratezza con realtà operative come la qualità dei dati, la variazione dell'illuminazione e la coerenza dell'etichettatura. Documentano criteri di successo espliciti, effettuano test rispetto a dati e flussi di lavoro realistici e ripetono in base a modelli di fallimento osservati piuttosto che a successi benchmark una tantum. È qui che la comprensione teorica si trasforma in capacità duratura in termini di prodotto, politica e operazioni.
L’intelligenza artificiale visiva può automatizzare le attività di ispezione, rilevamento ed etichettatura su larga scala. Allo stesso tempo, i diritti di immagine e il consenso possono diventare rischi legali se la provenienza non è chiara. L’approccio più resiliente consiste nel combinare la velocità di sperimentazione con la disciplina della governance: eseguire progetti pilota, acquisire prove, pubblicare registri decisionali e aggiornare continuamente le misure di salvaguardia man mano che il comportamento del modello, le aspettative degli utenti e i requisiti normativi evolvono.
Impatto strategico
L’intelligenza artificiale visiva può automatizzare le attività di ispezione, rilevamento ed etichettatura su larga scala.
L’intelligenza artificiale visiva può automatizzare le attività di ispezione, rilevamento ed etichettatura su larga scala. Nelle implementazioni di alta qualità, ciò si traduce in regole operative misurabili, limiti di proprietà e rituali di revisione ricorrenti in modo che i team possano aumentare la fiducia invece di aumentare l’ambiguità.
I team creativi possono prototipare i concetti più velocemente con meno revisioni manuali.
I team creativi possono prototipare i concetti più velocemente con meno revisioni manuali. Nelle implementazioni di alta qualità, ciò si traduce in regole operative misurabili, limiti di proprietà e rituali di revisione ricorrenti in modo che i team possano aumentare la fiducia invece di aumentare l’ambiguità.
Le operazioni possono utilizzare segnali immagine e video che in precedenza erano difficili da elaborare.
Le operazioni possono utilizzare segnali immagine e video che in precedenza erano difficili da elaborare. Nelle implementazioni di alta qualità, ciò si traduce in regole operative misurabili, limiti di proprietà e rituali di revisione ricorrenti in modo che i team possano aumentare la fiducia invece di aumentare l’ambiguità.
Implementazione nel mondo reale
I sistemi di classificazione delle immagini e di ricerca di Google che hanno adottato le dorsali dei trasformatori dopo che ViT si è dimostrato competitivo con le CNN
CLIP e altri modelli immagine-testo che utilizzano un ViT per codificare le immagini in modo che foto e didascalie possano essere abbinate in uno spazio condiviso
Ricerca di imaging medico che utilizza ViT per individuare modelli su un'intera scansione anziché solo trame locali
Stack di percezione della guida autonoma e della robotica che combinano l'attenzione in stile ViT per la comprensione della scena attraverso l'intero campo visivo
Modelli di implementazione
I trasformatori di visione in pratica
I sistemi di classificazione delle immagini e di ricerca di Google che hanno adottato le dorsali dei trasformatori dopo che ViT si è dimostrato competitivo con le CNN.
I sistemi di classificazione delle immagini e di ricerca di Google che hanno adottato dorsali di trasformazione dopo che ViT si è dimostrato competitivo con le CNN. I team di solito ottengono risultati migliori quando definiscono in anticipo le soglie di qualità, mantengono un percorso di escalation umano per i casi limite e tengono traccia sia dei guadagni di produttività che dei costi di errore nel tempo.
I trasformatori di visione in pratica
CLIP e altri modelli immagine-testo che utilizzano un ViT per codificare le immagini in modo che foto e didascalie possano essere abbinate in uno spazio condiviso.
CLIP e altri modelli immagine-testo che utilizzano un ViT per codificare le immagini in modo che foto e didascalie possano essere abbinate in uno spazio condiviso. I team di solito ottengono risultati migliori quando definiscono in anticipo le soglie di qualità, mantengono un percorso di escalation umano per i casi limite e tengono traccia sia dei guadagni di produttività che dei costi di errore nel tempo.
I trasformatori di visione in pratica
Ricerca di imaging medico che utilizza ViT per individuare modelli su un'intera scansione anziché solo trame locali.
Ricerca di imaging medico che utilizza ViT per individuare modelli su un'intera scansione anziché solo su trame locali. I team di solito ottengono risultati migliori quando definiscono in anticipo le soglie di qualità, mantengono un percorso di escalation umano per i casi limite e monitorano sia i guadagni di produttività che i costi di errore nel tempo.
I trasformatori di visione in pratica
Stack di percezione della guida autonoma e della robotica che combinano l'attenzione in stile ViT per la comprensione della scena attraverso l'intero campo visivo.
Stack di percezione della guida autonoma e della robotica che combinano l'attenzione in stile ViT per la comprensione della scena attraverso l'intero campo visivo. I team di solito ottengono risultati migliori quando definiscono in anticipo le soglie di qualità, mantengono un percorso di escalation umana per i casi limite e monitorano sia i guadagni di produttività che i costi di errore nel tempo.
Rischi e guardrail
I diritti di immagine e il consenso possono diventare rischi legali se la provenienza non è chiara.
Le prestazioni del modello possono variare in base all'illuminazione, ai dati demografici e agli ambienti.
I falsi positivi possono passare inosservati a meno che non vengano monitorate le soglie di confidenza.
Tabella di marcia per l'implementazione
Definire i criteri di accettazione per i costi di precisione, richiamo ed errore.
Definire i criteri di accettazione per i costi di precisione, richiamo ed errore. Tratta ogni passaggio come una prova: se i criteri non vengono soddisfatti, metti in pausa l'implementazione, colma il divario e solo allora espandi l'utilizzo.
Testare con dati che corrispondono alle reali condizioni di produzione.
Testare con dati che corrispondono alle reali condizioni di produzione. Tratta ogni passaggio come una prova: se i criteri non vengono soddisfatti, metti in pausa l'implementazione, colma il divario e solo allora espandi l'utilizzo.
Aggiungi la revisione umana per previsioni poco attendibili o ad alto impatto.
Aggiungi la revisione umana per previsioni poco attendibili o ad alto impatto. Tratta ogni passaggio come una prova: se i criteri non vengono soddisfatti, metti in pausa l'implementazione, colma il divario e solo allora espandi l'utilizzo.
Tieni traccia della deriva del modello e riconvalida dopo le modifiche alla fotocamera o al set di dati.
Tieni traccia della deriva del modello e riconvalida dopo le modifiche alla fotocamera o al set di dati. Tratta ogni passaggio come una prova: se i criteri non vengono soddisfatti, metti in pausa l'implementazione, colma il divario e solo allora espandi l'utilizzo.