পরবর্তী আপপরবর্তী গাইড
সুপ্ত ব্লেন্ডিং এবং ইমেজ ইন্টারপোলেশন
ভিজ্যুয়াল এআই
ভিজ্যুয়াল এআই গাইড
VQ-VAE encodes inputs into discrete codebook indices and reconstructs them through a decoder.
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
Learned discrete latents can provide compact token sequences for downstream generative models.
Neural Discrete Representation Learning introduces VQ-VAE, whose encoder outputs discrete codes rather than the continuous latent variables of a standard VAE, with a learned prior over codes. The straight-through estimator carries encoder gradients through quantization, and the objective includes codebook and commitment terms. VQGAN combines vector quantization with perceptual and adversarial training and studies image compression/synthesis. These are particular model designs, not a guarantee that discrete codes preserve all information.
An encoder maps an input to a continuous latent vector that is quantized to a codebook entry.
A decoder reconstructs the input from selected codebook vectors.
DALL·E used a discrete VAE image tokenizer before an autoregressive Transformer prior.
VQGAN adds perceptual and adversarial losses in a specific image-tokenization method.
Compare codebook utilization, reconstruction quality and downstream performance for the target data. Report the tokenizer, codebook and objective, since results depend on representation and training choices. The cited sources do not establish that discrete latents are always superior to continuous representations.
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
VQ-VAE encodes inputs into discrete codebook indices and reconstructs them through a decoder. Learned discrete latents can provide compact token sequences for downstream generative models.
VQ-VAE ভেক্টর কোয়ান্টাইজেশনের মাধ্যমে একটি শেখা কোডবুক থেকে আঁকা বিচ্ছিন্ন কোডগুলির সাথে ক্রমাগত ল্যাটেন্টগুলিকে প্রতিস্থাপন করে।
স্ট্রেইট-থ্রু এস্টিমেটর ডিকোডার-ইনপুট গ্রেডিয়েন্টকে সরাসরি এনকোডার আউটপুটে কপি করে, কোয়ান্টাইজেশনকে পশ্চাদগামী পাসের পরিচয় হিসাবে বিবেচনা করে।
কোডবুকের পতন ঘটে যখন মডেলটি মাত্র কয়েকটি কোডের উপর নির্ভর করে, বেশিরভাগ কোডবুক নষ্ট করে এবং বৈচিত্র্যকে ক্ষতিগ্রস্ত করে।
বিচ্ছিন্ন সূচকগুলি একটি সীমিত শব্দভাণ্ডার গঠন করে, তাই ট্রান্সফরমারের মতো সিকোয়েন্স মডেলগুলি শব্দের মতো তাদের বিতরণ শিখতে এবং নমুনা করতে পারে।
VQGAN VQ-VAE কে একটি বৈষম্যকারী এবং অনুধাবনমূলক ক্ষতি, ফলন ক্রিস্পার, আরও বিস্তারিত পুনর্গঠিত টোকেন সহ বৃদ্ধি করে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
সুপ্ত ব্লেন্ডিং এবং ইমেজ ইন্টারপোলেশন
ভিজ্যুয়াল এআই