视觉人工智能指南

基于分数的生成模型

基于分数的生成模型通过学习数据分布的梯度来创建数据——该方向使任何噪声样本看起来更像真实数据。

概述

基于分数的生成模型通过学习数据分布的梯度来创建数据——该方向使任何噪声样本看起来更像真实数据。这种得分函数视图将扩散模型与随机微分方程统一起来,并为许多现代图像生成器提供了基础。

基于分数的生成模型属于计算机视觉工作流程,它解释或生成视觉媒体以进行分析、操作和创造力。

深入探讨

基于分数的模型不是直接对概率进行建模,而是学习分数:对数概率密度相对于输入的梯度。知道以何种方式推动样本以增加其可能性就足以生成新数据。 Yang Song 和 Stefano Ermon 在 2019 年的工作中训练了一个网络,使用去噪得分匹配来估计多个噪声级别的得分,然后使用 Langevin 动力学生成样本——沿着得分重复步进并添加一点噪声。他们的 2021 年得分 SDE 论文表明,扩散模型和基于得分的模型是由随机微分方程描述的同一连续过程的两个方面。至关重要的是,每个 SDE 都有一个相应的确定性“概率流”ODE,它共享相同的边际,从而实现精确的似然和快速采样。

技术洞察

在数据稀疏的情况下,直接估计干净数据的分数是很困难的,因此该模型是在多个尺度上受高斯噪声扰动的数据上进行训练的。去噪得分匹配给出了一个易于处理的目标:加噪分布的得分等于噪声方向除以噪声方差,因此预测噪声和预测得分本质上是同一件事。采样从纯高斯噪声开始求解逆时 SDE(或等效概率流 ODE)。

掌握基于分数的生成模型

基于分数的生成模型通过学习数据分布的梯度来创建数据——该方向使任何噪声样本看起来更像真实数据。这种得分函数视图将扩散模型与随机微分方程统一起来,并为许多现代图像生成器提供了基础。基于分数的生成模型属于计算机视觉工作流程,它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解,请将基于分数的生成模型视为一种操作模型,而不是单一功能:定义期望的结果,澄清假设,并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。

在实践中,使用基于分数的生成模型的强大团队会平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

视觉人工智能可以大规模自动化检查、检测和标记任务。同时,如果出处不明,肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

视觉人工智能可以大规模自动化检查、检测和标记任务。

视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

创意团队可以通过更少的手动修改更快地构建概念原型。

创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

操作可以使用以前难以处理的图像和视频信号。

操作可以使用以前难以处理的图像和视频信号。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

基于分数的生成模型的未来

分数 SDE 框架是生成式 AI 大部分进步背后的理论引擎。更快的数值求解器、更好的噪声调度和概率流 ODE 正在实现近实时生成和精确的可能性评估。同样的分数匹配理念正在从图像扩展到音频、分子和蛋白质结构设计、点云和科学模拟,而一致性和流程匹配模型直接建立在这些连续时间的基础上,将生成缩减到几个步骤。

现实世界的实施

噪声条件评分网络 (NCSN) 通过 Langevin 动力学遵循学习的评分梯度来生成逼真的面孔。

医学图像重建,例如加速 MRI,其中学习的分数充当填充欠采样扫描数据的先验。

药物发现中的分子和蛋白质结构生成,通过基于评分的扩散建模 3D 原子构型。

音频波形合成,其中乐谱模型对干净的语音或音乐进行降噪,就像在基于扩散的声码器中一样。

实施模式

基于分数的生成模型的实践

噪声条件评分网络 (NCSN) 通过 Langevin 动力学遵循学习的评分梯度来生成逼真的面孔。

噪声条件评分网络 (NCSN) 通过 Langevin 动力学跟踪学习的评分梯度来生成照片级真实感面孔。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

基于分数的生成模型的实践

医学图像重建,例如加速 MRI,其中学习的分数充当填充欠采样扫描数据的先验。

医学图像重建,例如加速 MRI,其中学习的分数充当填充欠采样扫描数据的先验。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

基于分数的生成模型的实践

药物发现中的分子和蛋白质结构生成,通过基于评分的扩散建模 3D 原子构型。

药物发现中的分子和蛋白质结构生成,使用基于分数的扩散建模 3D 原子配置当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时,通常会获得更好的结果。

基于分数的生成模型的实践

音频波形合成,其中乐谱模型对干净的语音或音乐进行降噪,就像在基于扩散的声码器中一样。

音频波形合成,其中分数模型对干净的语音或音乐进行降噪,就像在基于扩散的声码器中一样。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会得到更好的结果。

风险与防护栏

!

如果出处不明,肖像权和同意可能会成为法律风险。

!

模型性能可能因光照、人口统计和环境的不同而有所不同。

!

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

使用符合实际生产条件的数据进行测试。

使用符合实际生产条件的数据进行测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

为低置信度或高影响力的预测添加人工审核。

为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索