Trasformatori di visione
I Vision Transformers (ViTs) applicano l'architettura del trasformatore che alimenta ChatGPT alle immagini, trattando un'immagine come una sequenza di patch anziché una griglia di pixel.
Panoramica
Hanno dimostrato che non servono le convoluzioni per ottenere un riconoscimento delle immagini all'avanguardia.
Immersione profonda
Per anni, le reti neurali convoluzionali (CNN) hanno dominato la visione artificiale scansionando piccoli filtri su un’immagine. L'articolo del 2020 "An Image Is Worth 16x16 Words" di Google ha sfidato questo problema suddividendo un'immagine in patch fisse, in genere 16x16 pixel, appiattindole ciascuna in un vettore e inserendo la sequenza risultante in un trasformatore standard. Ogni patch diventa un "segno", proprio come una parola in una frase. Il modello utilizza quindi l'autoattenzione in modo che ogni patch possa collegarsi direttamente a ogni altra patch, catturando relazioni a lungo raggio che un piccolo filtro convoluzionale non può vedere in un solo passaggio. Il problema: i ViT sono affamati di dati perché mancano dei presupposti incorporati delle CNN. Addestrati su enormi set di dati come JFT-300M, hanno eguagliato o battuto le migliori CNN, rimodellando la moderna ricerca sulla visione.
Approfondimento tecnico
Un ViT divide un'immagine in patch non sovrapposte, proietta ciascuna patch in modo lineare in un incorporamento e aggiunge codifiche posizionali in modo che il modello sappia dove si trovava ciascuna patch nell'immagine originale. È anteposto uno speciale "token di classe" apprendibile; la sua rappresentazione finale guida la classificazione. Gli strati sovrapposti di autoattenzione consentono a ciascuna patch di pesare le informazioni di tutte le altre, fornendo un campo ricettivo globale dal livello uno. Poiché l’attenzione cresce in modo quadratico con il numero di patch, le immagini ad alta risoluzione diventano costose, motivo per cui le dimensioni delle patch e le varianti di attenzione efficienti sono importanti.
Impatto strategico
Velocità e scala
L’intelligenza artificiale visiva può automatizzare le attività di ispezione, rilevamento ed etichettatura su larga scala.
Scelte di build
I team creativi possono prototipare i concetti più velocemente con meno revisioni manuali.
Team e flusso di lavoro
Le operazioni possono utilizzare segnali immagine e video che in precedenza erano difficili da elaborare.
Il futuro dei trasformatori di visione
Gli ibridi ViT e trasformatore CNN ora alimentano i principali sistemi di visione e l'architettura è alla base di modelli multimodali che fondono immagini con testo, come CLIP e i moderni assistenti del linguaggio visivo. Aspettatevi un lavoro continuo per rendere l’attenzione più economica per l’alta risoluzione e i video, oltre a una formazione preliminare auto-supervisionata (come la modellazione di immagini mascherate) che riduca l’enorme appetito per i dati etichettati. Man mano che l'elaborazione computazionale cresce, il confine tra "modello linguistico" e "modello di visione" continua a sfumare, con i trasformatori che fungono da spina dorsale condivisa tra le modalità piuttosto che da progetti specializzati separati.
Implementazione nel mondo reale
I sistemi di classificazione delle immagini e di ricerca di Google che hanno adottato le dorsali dei trasformatori dopo che ViT si è dimostrato competitivo con le CNN
CLIP e altri modelli immagine-testo che utilizzano un ViT per codificare le immagini in modo che foto e didascalie possano essere abbinate in uno spazio condiviso
Ricerca di imaging medico che utilizza ViT per individuare modelli su un'intera scansione anziché solo trame locali
Stack di percezione della guida autonoma e della robotica che combinano l'attenzione in stile ViT per la comprensione della scena attraverso l'intero campo visivo
Rischi e guardrail
I diritti di immagine e il consenso possono diventare rischi legali se la provenienza non è chiara.
Le prestazioni del modello possono variare in base all'illuminazione, ai dati demografici e agli ambienti.
I falsi positivi possono passare inosservati a meno che non vengano monitorate le soglie di confidenza.
Tabella di marcia per l'implementazione
Definire i criteri di accettazione per i costi di precisione, richiamo ed errore.
Testare con dati che corrispondono alle reali condizioni di produzione.
Aggiungi la revisione umana per previsioni poco attendibili o ad alto impatto.
Tieni traccia della deriva del modello e riconvalida dopo le modifiche alla fotocamera o al set di dati.
Continua a esplorare
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Vision Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Prossima guida
Modelli CLIP e linguaggio visivo
Domande frequenti
Che cos'è i Vision Transformers?
I Vision Transformers (ViTs) applicano l'architettura del trasformatore che alimenta ChatGPT alle immagini, trattando un'immagine come una sequenza di patch anziché una griglia di pixel. Hanno dimostrato che non sono necessarie convoluzioni per ottenere un riconoscimento delle immagini all'avanguardia.
In che modo un Vision Transformer elabora inizialmente un'immagine in ingresso?
Un ViT divide l'immagine in patch fisse (spesso 16x16 pixel), incorpora ciascuna patch come un token e alimenta la sequenza in un trasformatore.
Quale meccanismo chiave consente a un ViT di mettere in relazione tra loro parti distanti di un'immagine?
L'autoattenzione consente a ogni patch di pesare direttamente le informazioni di ogni altra patch, fornendo una visione globale dal primo livello.
Perché i semplici Vision Transformer in genere necessitano di set di dati di addestramento molto grandi per eccellere?
A differenza delle CNN, i ViT non presuppongono invarianza di località o di traduzione, quindi devono apprendere questi modelli da grandi quantità di dati.
Qual è lo scopo delle codifiche posizionali in un Vision Transformer?
L'attenzione al sé è indipendente dall'ordine, quindi le codifiche posizionali ripristinano la posizione spaziale di ogni patch.
Quale affermazione riflette meglio l'impatto di ViT sulla visione artificiale?
ViT ha dimostrato che un trasformatore puro, con dati e scala sufficienti, può competere o superare le migliori reti convoluzionali.