概述
空文本反转是一种技术，可让您使用文本驱动的扩散模型（如稳定扩散）编辑真实照片，同时保持您不要求更改的所有内容完好无损。它弥合了生成新图像与忠实地重建和重新编辑已有图像之间的差距。
空文本反转属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
要使用扩散模型编辑真实图像，首先必须向后运行生成过程以找到可以重新创建图像的噪声。一种称为 DDIM 反演的快速方法可以做到这一点，但会发生漂移，因此重建看起来略有错误。无分类器的引导会增强文本提示引导图像的强度，但会严重放大漂移。 Google 研究人员于 2022 年引入的空文本反演通过冻结模型并优化指南中使用的“空”（空）文本嵌入（每个去噪时间步长）来解决此问题。这会将重建固定回原始图像，以便以后的提示编辑（例如将“狗”变成“猫”）仅更改预期内容。
技术洞察
无分类器指导在条件预测（带有提示）和无条件预测（带有空提示嵌入）之间进行推断。空文本反转使真实提示和权重保持固定，并且仅对大约 50 个扩散步骤中的每个空嵌入进行梯度优化，以便引导轨迹跟踪预先计算的 DDIM 路径。其结果是具有完全引导强度的近乎像素完美的重建，使提示可以自由地驱动精确的编辑。
掌握空文本反转
空文本反转是一种技术，可让您使用文本驱动的扩散模型（如稳定扩散）编辑真实照片，同时保持您不要求更改的所有内容完好无损。它弥合了生成新图像与忠实地重建和重新编辑已有图像之间的差距。空文本反转属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将空文本反转视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用空文本反转的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
编辑真实的度假照片，使停放的汽车变成不同的颜色，而街道、人和灯光保持不变
在不改变背景或姿势的情况下交换全家福中真实宠物的品种
通过仅编辑提示词来更改风景照片的季节（夏季树叶到秋季）
在研究演示和编辑应用程序中对用户上传的图像进行“提示到提示”风格的本地编辑
实施模式
空文本反演实践
编辑真实的度假照片，使停放的汽车变成不同的颜色，而街道、人和灯光保持不变。
编辑真实的度假照片，使停放的汽车变成不同的颜色，而街道、行人和灯光保持不变。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
空文本反演实践
在全家福中交换真实宠物的品种，而不改变背景或姿势。
在不改变背景或姿势的情况下交换全家福中真实宠物的品种当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
空文本反演实践
通过仅编辑提示词来更改风景照片的季节（夏季树叶到秋季）。
通过仅编辑提示词来更改风景照片的季节（夏季树叶到秋季）当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
空文本反演实践
在研究演示和编辑应用程序中对用户上传的图像进行“提示到提示”风格的本地编辑。
在研究演示和编辑应用程序中对用户上传的图像进行“提示到提示”式的本地编辑团队通常会在预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。