视觉人工智能指南

修复和修复

修复填充或替换图像内的遮罩区域,而修复则将图像延伸到其原始边界之外。

概述

修复填充或替换图像内的遮罩区域,而修复则将图像延伸到其原始边界之外。它们一起让您可以使用生成式 AI 来擦除对象、修复缺陷并无缝扩展场景。

修复和修复属于计算机视觉工作流程,它解释或生成视觉媒体以进行分析、操作和创造力。

深入探讨

修复和修复是遮罩区域图像编辑任务。通过修复,您可以在照片的一部分上绘制遮罩(例如,不受欢迎的游客或划痕),并且模型仅重新生成该区域以匹配周围的内容。外涂则相反:它将原始框架“外部”的区域视为要填充的区域,创造出合理的新风景,使肖像变成完整的风景。扩散模型在这里表现出色,因为它们通过去噪生成,并且可以进行调节以在合成屏蔽像素时保持未屏蔽像素固定,可以选择通过文本提示进行引导。结果混合了灯光、纹理和透视,因此编辑看起来很自然。这些工具为手机上的“魔术橡皮擦”和专业编辑器中的“生成扩展”等日常功能提供支持。

技术洞察

在基于扩散的修复中,遮蔽区域从噪声开始并逐渐去噪,而在每一步中,已知(未遮蔽)像素都会被重新注入,因此模型仅在遮罩内部“绘画”。文本提示可以引导出现的内容。外画通过扩展画布、掩盖新的空白边框以及对现有边缘内容进行调节来重用相同的机制,以便颜色、灯光和透视自然地继续超出原始框架。

掌握修复和修复

修复填充或替换图像内的遮罩区域,而修复则将图像延伸到其原始边界之外。它们一起让您可以使用生成式 AI 来擦除对象、修复缺陷并无缝扩展场景。修复和修复属于计算机视觉工作流程,它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解,请将修复和修复视为一种操作模型,而不是单一功能:定义所需的结果,澄清假设,并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。

在实践中,使用修复和修复的强大团队会平衡准确性与数据质量、光照差异和标签一致性等操作现实。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

视觉人工智能可以大规模自动化检查、检测和标记任务。同时,如果出处不明,肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

视觉人工智能可以大规模自动化检查、检测和标记任务。

视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

创意团队可以通过更少的手动修改更快地构建概念原型。

创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

操作可以使用以前难以处理的图像和视频信号。

操作可以使用以前难以处理的图像和视频信号。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

修复和修复的未来

编辑变得越来越快、分辨率越来越高并且更加可控。期望提示驱动的编辑(“移除汽车,添加长凳”)成为可靠的一键操作,并更好地保留精细纹理、反射和阴影。 Outpainting 会定期为不同的屏幕重新构建和重新调整照片和视频帧的纵横比。同样的技术正在进入视频领域——一致地跨帧删除或扩展内容——提高了创造性的可能性,也提高了对无法检测的照片处理和出处标签的需求的担忧。

现实世界的实施

从度假照片中删除照片轰炸机,使背景自然填充。

通过在侧面生成新的风景,将垂直肖像扩展为宽幅横幅。

从产品照片中去除电线、瑕疵或徽标,以获得干净的目录图像。

通过重建丢失或损坏的区域来恢复旧的或撕裂的照片。

实施模式

修复和修复的实践

从度假照片中删除照片轰炸机,使背景自然填充。

从度假照片中删除照片轰炸机,使背景自然填充当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

修复和修复的实践

通过在侧面生成新的风景,将垂直肖像扩展为宽幅横幅。

通过在侧面生成新的风景,将垂直肖像扩展为宽幅横幅 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

修复和修复的实践

从产品照片中去除电线、瑕疵或徽标,以获得干净的目录图像。

从产品照片中去除电线、瑕疵或徽标,以获得干净的目录图像 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力提升和错误成本时,通常会获得更好的结果。

修复和修复的实践

通过重建丢失或损坏的区域来恢复旧的或撕裂的照片。

通过重建丢失或损坏的区域来恢复旧的或撕裂的照片当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会得到更好的结果。

风险与防护栏

!

如果出处不明,肖像权和同意可能会成为法律风险。

!

模型性能可能因光照、人口统计和环境的不同而有所不同。

!

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

使用符合实际生产条件的数据进行测试。

使用符合实际生产条件的数据进行测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

为低置信度或高影响力的预测添加人工审核。

为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索