Il prossimoProssima guida
Stima della profondità monoculare
IA visiva
GUIDA AI visiva
Marigold ripropone un modello di diffusione di generazione di immagini preaddestrato (Stable Diffusion) per prevedere mappe di profondità altamente dettagliate.
Ascolta questa guidaNarrato dall'IA · ~2 min
Dimostra che è possibile trasformare la ricca conoscenza visiva di un generatore in uno strumento di percezione preciso con dati di addestramento sorprendentemente pochi.
Marigold (ETH Zurigo, CVPR 2024 Best Paper Honorable Mention) riformula la stima della profondità come un problema di generazione condizionale. Invece di addestrare una rete di profondità da zero, ottimizza la diffusione stabile per "generare" una mappa di profondità condizionata su un'immagine di input. L'intuizione è che un modello addestrato a sintetizzare immagini fotorealistiche ha già imparato la geometria, l'illuminazione e la struttura della scena nel profondo del suo spazio latente, esattamente le informazioni a priori utili per la profondità. Sorprendentemente, Marigold è stato messo a punto solo su set di dati sintetici (come Hypersim e Virtual KITTI), ma si generalizza bene con foto reali zero-shot. Produce una profondità relativa affine-invariante con dettagli eccezionalmente fini, sebbene il denoising iterativo lo renda più lento rispetto ai modelli feed-forward come DepthAnything.
Estrazione di profondità a grana fine da foto architettoniche e di prodotto per la riilluminazione e modelli 3D.
Generazione di mappe di profondità ad alto dettaglio utilizzate come condizionamento per la generazione di immagini e video controllabili.
Aiutare i team cinematografici e VFX nel lavoro con mascherino e parallasse dove la precisione dei bordi è importante.
Serve come base di ricerca per mostrare come adattare i priori generativi a compiti di previsione densi.
La ricetta Marigold, che mette a punto i priori di diffusione per la previsione densa, si sta generalizzando oltre la profondità fino alle normali superficiali, alla scomposizione intrinseca dell'immagine e alla stima del materiale. Varianti distillate e modelli di coerenza più veloci stanno colmando il divario di velocità con le reti feed-forward, rendendo la percezione basata sulla diffusione praticabile negli strumenti interattivi. Aspettatevi una tendenza più ampia in cui una dorsale generativa preaddestrata viene adattata a molti compiti di geometria e percezione, riducendo la necessità di grandi set di dati etichettati per attività specifiche.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Marigold ripropone un modello di diffusione di generazione di immagini preaddestrato (Stable Diffusion) per prevedere mappe di profondità altamente dettagliate. Dimostra che è possibile trasformare la ricca conoscenza visiva di un generatore in uno strumento di percezione preciso con dati di addestramento sorprendentemente pochi.
Marigold ottimizza il modello di diffusione latente di Stable Diffusion per produrre mappe di profondità.
Tratta la profondità come qualcosa da "generare" in base all'immagine in ingresso, riutilizzando i meccanismi di diffusione.
Marigold è stato messo a punto su dati sintetici come Hypersim e Virtual KITTI, ma generalizza lo scatto zero a foto reali.
I modelli di diffusione eliminano il rumore su più passaggi, rendendo l'inferenza più lenta di un singolo passaggio in avanti.
Sia l'immagine che la profondità sono codificate nello spazio latente VAE in cui U-Net effettua il denoise.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Stima della profondità monoculare
IA visiva