视觉人工智能指南

知觉损失和 LPIPS

感知损失通过比较深度神经网络特征而不是原始像素来衡量两幅图像与人类的相似程度。

概述

感知损失通过比较深度神经网络特征而不是原始像素来衡量两幅图像与人类的相似程度。这很重要,因为逐像素比较错误地惩罚了微小的变化并模糊了细节,而感知损失则奖励了清晰、真实的结果。

感知损失和 LPIPS 属于计算机视觉工作流程,用于解释或生成视觉媒体以进行分析、操作和创造力。

深入探讨

像 L2(均方误差)这样的传统损失会逐像素比较图像,因此一个像素的偏移或稍微不同的纹理看起来像是一个巨大的错误,即使人类几乎没有注意到。感知损失通过预训练网络(通常是 VGG)运行两个图像,并比较中间层的激活。由于这些特征对边缘、纹理和对象部分进行编码,而不是精确的像素值,因此损失可以更好地与人类判断保持一致,从而鼓励清晰、语义上忠实的输出。 LPIPS(学习感知图像块相似度),由Zhang等人提出。 2018 年,它正式化了这一点:它提取深层特征,对其进行标准化,并应用根据数千个人类相似性判断校准的学习权重,产生单个距离分数,其中越低意味着感知上越相似。

技术洞察

LPIPS 通过固定主干网(VGG、AlexNet 或 SqueezeNet)传递两个图像,对多个层的通道激活进行单元归一化,然后在每个空间位置求平方差。在对这些差异进行空间平均并跨层求和之前,一小部分学习的每通道权重会缩放这些差异。这些权重是在人类二选一强制选择判断的 BAPPS 数据集上进行训练的,因此该指标反映了人们实际感知的内容,而不是原始特征距离。

掌控知觉损失和 LPIPS

感知损失通过比较深度神经网络特征而不是原始像素来衡量两幅图像与人类的相似程度。这很重要,因为逐像素比较错误地惩罚了微小的变化并模糊了细节,而感知损失则奖励了清晰、真实的结果。感知损失和 LPIPS 属于计算机视觉工作流程,用于解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解,请将感知损失和 LPIPS 视为一种操作模型,而不是单一功能:定义期望的结果,澄清假设,并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。

在实践中,使用感知损失和 LPIPS 的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

视觉人工智能可以大规模自动化检查、检测和标记任务。同时,如果出处不明,肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

视觉人工智能可以大规模自动化检查、检测和标记任务。

视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

创意团队可以通过更少的手动修改更快地构建概念原型。

创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

操作可以使用以前难以处理的图像和视频信号。

操作可以使用以前难以处理的图像和视频信号。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

知觉损失和 LPIPS 的未来

感知指标正在从 CNN 主干转向 DINO 和 CLIP 等自监督和视觉转换器模型的特征,这些模型捕获更丰富的语义。预计与扩散模型训练和文本到图像评估的更紧密集成,以及针对视频时间一致性调整的感知分数。研究人员还在探索 LPIPS 的盲点:它可能会被对手愚弄,并且与非常高保真度的质量相关性较弱,从而激发了新的人类对齐指标,例如 DISTS 和集成方法。

现实世界的实施

训练超分辨率网络(例如 SRGAN),使放大的照片看起来清晰且有纹理,而不是模糊。

通过对解码图像在感知上与原始图像的接近程度进行评分来评估图像压缩和编解码器。

指导风格转换,其中内容通过深度 VGG 特征而不是精确像素进行匹配。

通过报告生成图像和真实图像之间的 LPIPS 距离对 GAN 和扩散图像生成器进行基准测试。

实施模式

知觉损失和 LPIPS 实践

训练超分辨率网络(例如 SRGAN),使放大的照片看起来清晰且有纹理,而不是模糊。

训练超分辨率网络(例如 SRGAN),使放大的照片看起来清晰且有纹理,而不是模糊。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

知觉损失和 LPIPS 实践

通过对解码图像在感知上与原始图像的接近程度进行评分来评估图像压缩和编解码器。

通过对解码图像与原始图像在感知上的接近程度进行评分来评估图像压缩和编解码器 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

知觉损失和 LPIPS 实践

指导风格转换,其中内容通过深度 VGG 特征而不是精确像素进行匹配。

指导风格转换,其中内容通过深度 VGG 功能而不是精确像素进行匹配。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

知觉损失和 LPIPS 实践

通过报告生成图像和真实图像之间的 LPIPS 距离对 GAN 和扩散图像生成器进行基准测试。

通过报告生成图像和真实图像之间的 LPIPS 距离对 GAN 和扩散图像生成器进行基准测试 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时,通常会获得更好的结果。

风险与防护栏

!

如果出处不明,肖像权和同意可能会成为法律风险。

!

模型性能可能因光照、人口统计和环境的不同而有所不同。

!

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

使用符合实际生产条件的数据进行测试。

使用符合实际生产条件的数据进行测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

为低置信度或高影响力的预测添加人工审核。

为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索