视觉人工智能指南

LaMa 分辨率-稳健修复

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。

概述

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。这很重要,因为它以远高于训练时的分辨率产生令人信服的填充,使任何人都可以进行专业的对象移除。

LaMa Resolution-Robust Inpainting 属于计算机视觉工作流程,可解释或生成视觉媒体以进行分析、操作和创造力。

深入探讨

三星 AI 研究人员于 2021 年推出的 LaMa 解决了一个长期存在的问题:大多数修复模型在被要求填充大型蒙版或重复纹理(如砖墙和瓷砖地板)时会出现污点或模糊。它的突破在于使用快速傅立叶卷积(FFC),它为网络提供了单层的全局感受野,而不是需要数十个堆叠的卷积。这让 LaMa 立即“看到”整个图像,并连贯地延续周期性结构。它基于本身使用广泛接受域的网络,结合对抗性损失和感知损失进行训练。结果概括得非常好,通常在仅对较小的作物进行训练后就能干净地修复 2K 图像。

技术洞察

关键组件是快速傅立叶卷积。普通的卷积仅查看一个小的局部补丁,因此捕获远程结构需要非常深的网络。 FFC 将部分特征图变换到频域,在那里应用卷积,然后变换回来。由于频域操作本质上是全局的,因此单个 FFC 层会混合整个图像中的信息,帮助 LaMa 重复纹理并尊重全局几何形状(例如墙壁边缘)。

掌握 LaMa 分辨率-稳健修复

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。这很重要,因为它以远高于训练时的分辨率产生令人信服的填充,使任何人都可以进行专业的对象移除。 LaMa Resolution-Robust Inpainting 属于计算机视觉工作流程,可解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解,请将 LaMa Resolution-Robust Inpainting 视为一种操作模型,而不是单一功能:定义期望的结果,澄清假设,并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。

在实践中,使用 LaMa Resolution-Robust Inpainting 的强大团队可以平衡准确性与数据质量、光照变化和标签一致性等操作现实。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

视觉人工智能可以大规模自动化检查、检测和标记任务。同时,如果出处不明,肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

视觉人工智能可以大规模自动化检查、检测和标记任务。

视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

创意团队可以通过更少的手动修改更快地构建概念原型。

创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

操作可以使用以前难以处理的图像和视频信号。

操作可以使用以前难以处理的图像和视频信号。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

LaMa 分辨率的未来-稳健修复

LaMa 仍然是一个强大、高效的基准,并广泛嵌入免费工具和开源照片编辑器中,因为它在普通硬件上运行速度快,无需巨大的扩散模型。趋势是混合管道:使用 LaMa 进行即时结构填充和粗草图,然后可以选择使用扩散模型细化细节。预计其傅立叶卷积思想将继续出现在实时编辑、视频帧修复和设备上的移动照片清理中,这些领域速度和低内存是最重要的。

现实世界的实施

从旅行照片中删除游客或照片轰炸者,同时保持背景墙或天空无缝

从图像中删除水印、时间戳或徽标以进行合法的修复工作

从房地产列表照片中删除电线和街道标志

通过填充划痕、撕裂和缺失的角落来恢复旧的或损坏的扫描照片

实施模式

LaMa 决议 - 稳健修复实践

从旅行照片中去除游客或照片轰炸者,同时保持背景墙或天空无缝。

从旅行照片中去除游客或照片轰炸者,同时保持背景墙或天空无缝。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

LaMa 决议 - 稳健修复实践

从图像中删除水印、时间戳或徽标以进行合法的修复工作。

从图像中删除水印、时间戳或徽标以进行合法的修复工作当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

LaMa 决议 - 稳健修复实践

从房地产列表照片中删除电线和街道标志。

从房地产列表照片中删除电线和街道标志 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

LaMa 决议 - 稳健修复实践

通过填充划痕、撕裂和缺失的角落来恢复旧的或损坏的扫描照片。

通过填充划痕、撕裂和缺角来恢复旧的或损坏的扫描照片 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

风险与防护栏

!

如果出处不明,肖像权和同意可能会成为法律风险。

!

模型性能可能因光照、人口统计和环境的不同而有所不同。

!

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

使用符合实际生产条件的数据进行测试。

使用符合实际生产条件的数据进行测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

为低置信度或高影响力的预测添加人工审核。

为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索