变分自动编码器
变分自编码器 (VAE) 是生成神经网络，它学习将数据压缩到平滑的概率潜在空间，然后从中重建或生成新的示例。
概述
They matter because they gave deep learning one of its first principled, sampleable models of data — powering image generation, anomaly detection, and the latent spaces inside modern diffusion models.
深入探讨
VAE 有两部分：编码器将输入（例如图像）映射到概率分布（通常是具有学习均值和方差的高斯分布），而不是将输入（例如图像）映射到单个点；解码器从从该分布采样的点重建输入。训练优化了证据下界（ELBO），它平衡了两个压力：重建精度（输出应该类似于输入）和 KL 散度正则化器，它将每个输入的潜在分布拉向标准正态。这种正则化是关键技巧：它迫使潜在空间连续且密集，以便解码附近的随机点产生合理的新样本，而不是无意义的。这种平滑性正是 VAE 与普通自动编码器的区别。
技术洞察
巧妙的工程是重新参数化技巧。您无法通过随机采样步骤进行反向传播，因此 VAE 不是直接从 N(mu, sigma squared) 采样 z，而是计算 z = mu + sigma * epsilon，其中 epsilon 是从固定标准法线中提取的。随机性现在存在于 epsilon 中，epsilon 是输入而不是参数，因此梯度可以干净地流过 mu 和 sigma，并且可以使用普通的随机梯度下降来训练编码器。
战略影响
更清晰的判决
它可以帮助您将清晰的技术声明与营销语言分开。
成本与预算
在花费金钱或时间之前，您可以提出更好的实施问题。
团队与工作流程
具有共同理解的团队可以做出更好的产品、政策和学习决策。
变分自动编码器的未来
纯 VAE 很少能产生最清晰的图像，但它们的影响无处不在。稳定扩散等潜在扩散模型在 VAE 压缩的潜在空间内运行扩散，从而大幅削减计算量。具有离散码本的 VQ-VAE 支持许多馈入变压器的音频和图像标记器。期望 VAE 继续作为大型生成系统下的高效、结构化压缩层，并继续在分子和蛋白质设计等科学领域中使用，在这些领域，平滑、可插值的潜在空间真正有用。
现实世界的实施
稳定扩散使用 VAE 将图像压缩到实际发生扩散去噪的紧凑潜在空间中，然后解码回像素。
通过标记 VAE 重建的输入来检测制造缺陷或欺诈交易，因为异常情况超出了习得的正态分布。
通过在药物研究中的化学潜在空间中平稳行走来生成和插入新型药物分子。
通过学习健康解剖结构的低维表示，对 MRI 扫描等医学图像进行压缩和去噪。
风险与防护栏
不同的团队可能会以不同的方式使用同一术语，因此请尽早定义范围。
基准测试可能看起来很强大，但实际性能却参差不齐。
忽视数据质量和评估计划通常会产生脆弱的结果。
实施路线图
从您需要的结果的简单语言定义开始。
在测试之前选择一种成功指标和一种失败条件。
使用代表性数据运行小型试点，而不是完善的演示集。
记录变分自动编码器在哪些方面有帮助以及在哪些方面更简单的方法更好。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Variational Autoencoders quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Variational Autoencoders?
变分自编码器 (VAE) 是生成神经网络，它学习将数据压缩到平滑的概率潜在空间，然后从中重建或生成新的示例。它们很重要，因为它们为深度学习提供了第一个有原则的、可采样的数据模型之一——为图像生成、异常检测和现代扩散模型内的潜在空间提供动力。
对于给定的输入，VAE 中的编码器输出什么？
与普通自动编码器不同，VAE 编码器输出分布参数（通常是高斯均值和方差），然后从该分布中采样一个点。
重新参数化技巧的目的是什么？
通过编写 z = mu + sigma * epsilon（其中 epsilon 从固定法线绘制），随机性被转移到输入，因此反向传播可以流过 mu 和 sigma。
VAE 损失中的 KL 散度项鼓励什么？
KL 项将每个输入的潜在分布规范化为标准正态分布，保持潜在空间平滑和连续，以便采样产生合理的输出。
为什么 VAE 可以生成新样本，而普通自动编码器通常不能？
KL 正则化使潜在空间变得平滑且密集，因此对随机点进行采样并对其进行解码会产生一个连贯的新示例。
在稳定扩散这样的潜在扩散模型中，VAE 发挥什么作用？
与直接在像素空间中工作相比，在 VAE 压缩的潜在空间内运行扩散可显着减少计算量。