GUIDA AI visiva

Risposta visiva alle domande

Visual Question Answering (VQA) consente a un sistema di rispondere a domande in linguaggio naturale in formato libero su un'immagine, ad esempio "Quante persone indossano cappelli?" È necessario comprendere congiuntamente sia l’immagine che la domanda per produrre una risposta corretta.

Ascolta questa guidaNarrato dall'IA · ~2 min

In questa pagina2 minuti di lettura
  1. Immersione profonda
  2. Implementazione nel mondo reale
  3. Il futuro della risposta visiva alle domande
  4. Metterlo in pratica
  5. Continua a esplorare
  6. Domande frequenti

Immersione profonda

Il Visual Question Answering combina la visione artificiale e l'elaborazione del linguaggio naturale: data un'immagine e una domanda, il modello restituisce una risposta, che può essere una singola parola, una breve frase o una risposta sì/no. L'attività è stata resa popolare dal set di dati VQA (Antol et al., 2015) e dalla sua versione perfezionata VQA v2.0, che bilanciava le risposte per scoraggiare i modelli dall'indovinare dal solo testo. I sistemi codificano l'immagine e la domanda, fondono le due rappresentazioni e quindi prevedono una risposta, storicamente classificando su un vocabolario di risposte fisso. Oggi, modelli di linguaggio visivo di grandi dimensioni come GPT-4V, LLaVA e PaLI gestiscono VQA a tempo indeterminato, ragionando su oggetti, attributi, conteggi, relazioni spaziali e persino testo scritto all'interno delle immagini.

Implementazione nel mondo reale

Lasciare che gli utenti non vedenti fotografino un prodotto e chiedano "Che sapore è questo?" o "Qual è la data di scadenza?"

Rispondere a domande su grafici, moduli e documenti scansionati (documento VQA) nei flussi di lavoro aziendali

Alimentare gli assistenti di vendita al dettaglio e di e-commerce che rispondono alla domanda "Questa giacca ha un cappuccio?" da una foto del prodotto

Supportare la revisione delle immagini mediche o scientifiche rispondendo a domande mirate su scansioni o immagini microscopiche

Il futuro della risposta visiva alle domande

La VQA si sta evolvendo da una classificazione a risposta breve verso un ragionamento visivo aperto in più fasi con spiegazioni. Aspettatevi una gestione più efficace del conteggio, dei grafici, dei diagrammi e del testo nell'immagine (documento VQA), oltre al video VQA che ragiona nel tempo. Ridurre i pregiudizi sulle scorciatoie e le allucinazioni rimane una priorità, così come radicare le risposte in specifiche regioni dell’immagine per garantire la fiducia. Assistenti multimodali capaci risponderanno sempre più a domande visive in modo conversazionale sui telefoni, nella robotica e negli strumenti di accessibilità che aiutano gli utenti a interrogare l’ambiente circostante.

Metterlo in pratica

Perché è importante

  • Velocità e scala. L’intelligenza artificiale visiva può automatizzare le attività di ispezione, rilevamento ed etichettatura su larga scala.
  • Scelte di build. I team creativi possono prototipare i concetti più velocemente con meno revisioni manuali.
  • Team e flusso di lavoro. Le operazioni possono utilizzare segnali immagine e video che in precedenza erano difficili da elaborare.

Attenzione

  • I diritti di immagine e il consenso possono diventare rischi legali se la provenienza non è chiara.
  • Le prestazioni del modello possono variare in base all'illuminazione, ai dati demografici e agli ambienti.
  • I falsi positivi possono passare inosservati a meno che non vengano monitorate le soglie di confidenza.

Prossimi passi

  1. Definire i criteri di accettazione per i costi di precisione, richiamo ed errore.
  2. Testare con dati che corrispondono alle reali condizioni di produzione.
  3. Aggiungi la revisione umana per previsioni poco attendibili o ad alto impatto.
  4. Tieni traccia della deriva del modello e riconvalida dopo le modifiche alla fotocamera o al set di dati.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Take the Visual Question Answering quiz

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Cos'è la risposta visiva alle domande?

Visual Question Answering (VQA) consente a un sistema di rispondere a domande in linguaggio naturale in formato libero su un'immagine, ad esempio "Quante persone indossano cappelli?" È necessario comprendere congiuntamente sia l’immagine che la domanda per produrre una risposta corretta.

Quali sono i due input che accetta un sistema di risposta visiva alle domande?

VQA prende sia un'immagine che una domanda al riguardo, quindi produce una risposta fondata sull'immagine.

Perché il set di dati VQA v2.0 è stato creato con risposte "bilanciate"?

VQA v2.0 abbina domande a immagini che hanno risposte diverse, costringendo i modelli a utilizzare effettivamente l'input visivo anziché sfruttare le statistiche del testo.

Cos'è il "pregiudizio linguistico" nella VQA?

Il bias linguistico si verifica quando un modello sfrutta le statistiche delle risposte legate alla formulazione delle domande invece di guardare l'immagine.

In che modo molti modelli VQA combinano immagini e informazioni sulle domande?

I modelli VQA codificano ciascuna modalità e le fondono, spesso utilizzando l'attenzione incrociata in modo che le parole interrogative si rivolgano alle regioni dell'immagine rilevanti.

I classici sistemi VQA spesso producevano risposte facendo cosa?

Molti dei primi modelli VQA trattavano il compito come una classificazione rispetto alle risposte più frequenti, sebbene i modelli moderni generino testo a risposta aperta.