SıradakiSonraki rehber
Gizli Harmanlama ve Görüntü Enterpolasyonu
Görsel Yapay Zeka
Görsel Yapay Zeka KILAVUZU
VQ-VAE encodes inputs into discrete codebook indices and reconstructs them through a decoder.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Learned discrete latents can provide compact token sequences for downstream generative models.
Neural Discrete Representation Learning introduces VQ-VAE, whose encoder outputs discrete codes rather than the continuous latent variables of a standard VAE, with a learned prior over codes. The straight-through estimator carries encoder gradients through quantization, and the objective includes codebook and commitment terms. VQGAN combines vector quantization with perceptual and adversarial training and studies image compression/synthesis. These are particular model designs, not a guarantee that discrete codes preserve all information.
An encoder maps an input to a continuous latent vector that is quantized to a codebook entry.
A decoder reconstructs the input from selected codebook vectors.
DALL·E used a discrete VAE image tokenizer before an autoregressive Transformer prior.
VQGAN adds perceptual and adversarial losses in a specific image-tokenization method.
Compare codebook utilization, reconstruction quality and downstream performance for the target data. Report the tokenizer, codebook and objective, since results depend on representation and training choices. The cited sources do not establish that discrete latents are always superior to continuous representations.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
VQ-VAE encodes inputs into discrete codebook indices and reconstructs them through a decoder. Learned discrete latents can provide compact token sequences for downstream generative models.
VQ-VAE, sürekli gizli kodları, vektör nicemleme yoluyla öğrenilmiş bir kod kitabından alınan ayrı kodlarla değiştirir.
Düz tahmin edici, kod çözücü-giriş gradyanını doğrudan kodlayıcı çıkışına kopyalar ve nicelemeyi geri geçiş için kimlik olarak ele alır.
Kod kitabının çökmesi, model yalnızca birkaç koda dayandığında kod kitabının çoğunu boşa harcayarak çeşitliliğe zarar verdiğinde meydana gelir.
Ayrık endeksler sınırlı bir kelime dağarcığı oluşturur; böylece Transformers gibi dizi modelleri, tıpkı kelimeler gibi dağıtımlarını öğrenebilir ve örnekleyebilir.
VQGAN, VQ-VAE'yi bir ayırıcı ve algısal kayıpla güçlendirerek daha canlı, daha ayrıntılı yeniden oluşturulmuş tokenlar sağlar.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Gizli Harmanlama ve Görüntü Enterpolasyonu
Görsel Yapay Zeka