Kvíz spojený s průvodcem · Těžko úroveň
Kvíz VQ-VAE a diskrétní latentní
Podívejte se, jak VQ-VAE mapuje kontinuální výstupy kodéru na samostatné položky číselníku pro generativní modelování a rekonstrukci.
Otázka 1 z 8
Čím se latentní prostor VQ-VAE liší od standardních VAE?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Čím se latentní prostor VQ-VAE liší od standardních VAE?
- Je diskrétní, používá naučený kódový seznam vložení
- Je spojitý a Gaussův
- Nemá vůbec žádný latentní prostor
- Ukládá nezpracované pixely
- Jak VQ-VAE prochází gradienty nediferencovatelným kvantizačním krokem?
- Úplně vynechává zpětné šíření
- S přímým estimátorem, který kopíruje gradienty kolem kvantizeru
- Pouze pomocí posilovacího učení
- Zaokrouhlením přechodů na celá čísla
- Co je „kolaps kódové knihy“?
- Dekodér ignoruje latentní otisky
- Výstupy kodéru jsou nekonečné
- Jen malý zlomek záznamů v číselníku se někdy použije
- Rozlišení obrazu klesne na nulu
- Proč jsou diskrétní latentní informace užitečné pro generativní modelování pomocí Transformers?
- Zmenšují obrázky pouze na disku
- Eliminují potřebu dekodéru
- Odstraňují veškerou náhodnost z generace
- Přeměňují média na tokenové sekvence, které může Transformer modelovat jako jazyk
- Co přidal VQGAN k základnímu receptu VQ-VAE?
- Nepříznivé a percepční ztráty pro ostřejší rekonstrukce
- Difuzní vzorkovač
- Odstranění číselníku
- Rekurentní kodér
- Který ztrátový člen udržuje kodér „zavázaný“ k položkám číselníku, které vybere?
- Divergence KL
- Ztráta závazku
- Ztráta křížové entropie
- Trojitá ztráta
- What kind of prior does the original VQ-VAE paper learn over its discrete codes?
- A fixed prior that is never learned
- A prior over camera locations only
- A learned prior over the discrete code sequence
- No prior or decoder distribution
- Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
- The original Whisper speech-recognition paper
- A paper on Kalman-filter vehicle tracking
- The original BERT masked-language-model paper
- The original DALL·E paper