深入探讨
自动编码变分贝叶斯得出边际对数似然 log p(x) 的证据下界 (ELBO)。可以使用近似后验和重新参数化通过随机梯度来优化目标。对于高斯 VAE，它包括一个重建/似然项和一个针对先验的 KL 正则化器。生成从先验中单独采样潜在的并对其进行解码；该采样步骤不是 ELBO 定义。解码器参数化似然性 p(x|z)，即以潜在条件为条件的观测值分布。这与从之前绘制 z 然后生成 x 不同。
现实世界的实施
将输入编码为潜在分布参数。
在训练期间使用重新参数化技巧对潜在样本进行采样。
ELBO 中的平衡重建和先验正则化。
使用预训练的 VAE 对潜在扩散中的图像进行编码和解码。
变分自动编码器的未来
VAE 设计的可能性、先验和目标各不相同。评估所选模型的重建、样本质量和潜在行为。
付诸实践
为什么这很重要
- 更清晰的判决. 它可以帮助您将清晰的技术声明与营销语言分开。
- 成本与预算. 在花费金钱或时间之前，您可以提出更好的实施问题。
- 团队与工作流程. 具有共同理解的团队可以做出更好的产品、政策和学习决策。
留意
- 不同的团队可能会以不同的方式使用同一术语，因此请尽早定义范围。
- 基准测试可能看起来很强大，但实际性能却参差不齐。
- 忽视数据质量和评估计划通常会产生脆弱的结果。
后续步骤
- 从您需要的结果的简单语言定义开始。
- 在测试之前选择一种成功指标和一种失败条件。
- 使用代表性数据运行小型试点，而不是完善的演示集。
- 记录变分自动编码器在哪些方面有帮助以及在哪些方面更简单的方法更好。
不断探索
常见问题
什么是变分自编码器？
变分自动编码器学习概率潜在表示和用于生成或重建数据的解码器。
对于给定的输入，VAE 中的编码器输出什么？
与普通自动编码器不同，VAE 编码器输出分布参数（通常是高斯均值和方差），然后从该分布中采样一个点。
重新参数化技巧的目的是什么？
通过编写 z = mu + sigma * epsilon（其中 epsilon 从固定法线绘制），随机性被转移到输入，因此反向传播可以流过 mu 和 sigma。
在标准高斯 VAE 公式中，KL 项鼓励什么？
对于所引用的公式中描述的标准高斯 VAE，KL 项将近似后验规则化为先验分布，通常是标准正态分布。
在高斯 VAE 中，什么能够生成新样本？
高斯 VAE 指定潜在先验分布和解码器分布，允许绘制和解码潜在样本；这并不能保证高质量的样品。
在稳定扩散这样的潜在扩散模型中，VAE 发挥什么作用？
与直接在像素空间中工作相比，在 VAE 压缩的潜在空间内运行扩散可显着减少计算量。