概述
易于处理的雅可比行列式允许这些模型生成样本并评估概率密度。
深入探讨
归一化流学习简单基本分布和复杂目标分布（例如图像或音频）之间的双射（一对一、可逆）映射。你堆叠了许多可逆的层；向前运行它们将高斯噪声扭曲成真实的样本，向后运行它们将真实数据映射回噪声。定义技巧是变量变化公式，它允许您通过跟踪每个变换如何通过其雅可比行列式拉伸或收缩体积来评估易于处理的模型密度。与 VAE（近似可能性）或 GAN（不给出任何可能性）不同，当架构允许所需的逆和雅可比评估时，流可以提供易于处理的模型密度。工程挑战是设计具有表现力的层，同时保持雅可比行列式的计算成本低廉，如 RealNVP、Glow 和自回归流。
现实世界的实施
密度估计团队将流动可能性评估为异常检测的一个信号，然后测试该信号是否区分相关异常。
基于流的音频模型（例如 WaveGlow）根据噪声分布生成波形。
逆自回归流使变分后验近似更加灵活。
玻尔兹曼发生器使用可逆变换来采样分子构型。
流量正常化的未来
原始图像质量的扩散模型在某种程度上使纯粹的归一化流黯然失色，但流的想法正在复兴。连续时间公式（连续归一化流、神经常微分方程），尤其是流匹配（Stable Diffusion 3 和许多现代生成器等系统背后的训练方法），将生成重新定义为学习将噪声传输到数据的速度场。只要精确的可能性、可逆性或快速确定性采样很重要，预计流动将保持中心地位，并在概念上与扩散不断融合。
付诸实践
为什么这很重要
- 成本与预算. 多年来，架构决策决定着性能和运营成本。
- 更清晰的判决. 技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
- 质量控制. 更好的工程选择可以减少生产中的可靠性事故。
留意
- 优化一项基准测试可以隐藏更广泛的系统弱点。
- 基础设施和维护成本常常被低估。
- 随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
后续步骤
- 在实施之前定义延迟、质量和成本目标。
- 在实际负载和数据条件下进行基准测试。
- 仪器监控错误、漂移和用户影响。
- 在扩展之前准备回滚和事件响应路径。
不断探索
常见问题
什么是流量标准化？
归一化流通过可逆、可微的变换将简单的基本分布映射到更复杂的分布。易于处理的雅可比行列式允许这些模型生成样本并评估概率密度。
标准化流中的每个变换必须具有什么数学属性？
流依赖于可逆、可微的变换，因此数据可以映射到噪声并映射回噪声，因此变量变化公式适用。
哪个公式可以让标准化流计算精确的可能性？
log p(x) = log p(z) + log|det(雅可比)|考虑变换如何拉伸或压缩概率体积，给出精确的密度。
为什么像 RealNVP 和 Glow 这样的流架构要使用耦合层？
耦合层仅根据其余维度变换部分维度，产生三角雅可比行列式，其行列式只是对角线的乘积，比 O(n^3) 便宜得多。
易于处理的归一化流程可以提供哪些普通 GAN 生成器通常无法提供的功能？
具有易于处理的雅可比计算的可逆流可以评估其模型密度。这与证明可能性是足够的异常分数不同。
团队应该如何使用归一化流可能性进行异常检测？
可能性可能是一个有用的信号，但生成模型可能会为分布外的输入分配出乎意料的高可能性。