概述
Prompt-to-Prompt 通过调整文本提示来编辑生成的图像，同时重用模型的内部注意力图，因此更改一个单词会交换该元素，同时保持场景的其余部分完好无损。它是通过文字而不是像素进行编辑。
提示到提示交叉注意编辑属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
Prompt-to-Prompt（Hertz et al., 2022）是一种用于扩散模型中文本驱动编辑的免训练技术。关键的见解是交叉注意力图，它告诉模型每个单词应该影响哪些图像区域，对场景的空间布局进行编码。当您使用稍微修改过的提示重新生成图像时，该方法会将原始提示的注意力图注入到新的运行中。将“自行车”替换为“摩托车”，可以交换该对象，同时保留构图和背景。添加单词只会为未更改的标记注入注意力，因此会出现一个新属性，而无需重新调整所有内容。您还可以重新调整令牌的注意力以增强或削弱其效果。因为它不需要微调或掩模，所以它成为许多后来的编辑方法的基础构建块，包括 InstructPix2Pix 的数据生成。
技术洞察
在去噪过程中，交叉注意力为每个标记计算它在图像中出现的位置的空间图。 Prompt-to-Prompt 将这些地图从原始生成复制到编辑后的共享令牌中。对于单词交换，它在相应的标记之间映射注意力；对于添加的单词，它保留旧的地图，只让新的标记形成新的关注；重新加权只是缩放令牌的注意力值，增强或减弱其视觉影响力。
掌握提示到提示交叉注意力编辑
Prompt-to-Prompt 通过调整文本提示来编辑生成的图像，同时重用模型的内部注意力图，因此更改一个单词会交换该元素，同时保持场景的其余部分完好无损。它是通过文字而不是像素进行编辑。提示到提示交叉注意编辑属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将提示到提示交叉注意编辑视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用提示到提示交叉注意编辑的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
设计师将“街道上的红色汽车”更改为“街道上的蓝色汽车”，并保持完全相同的场景布局。
一位插画家重新调整了“雪”这个词的重量，使不同变化的风景逐渐变得更加寒冷。
讲故事的人在提示中将“狮子”换成“老虎”，以保持角色表的相同姿势和背景。
研究人员使用它生成配对的前后图像作为遵循指令的编辑器的训练数据。
实施模式
实践中的提示到提示交叉注意编辑
设计师将“街道上的红色汽车”更改为“街道上的蓝色汽车”，并保持完全相同的场景布局。
设计师将“街道上的红色汽车”更改为“街道上的蓝色汽车”，并保持完全相同的场景布局。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
实践中的提示到提示交叉注意编辑
一位插画家重新调整了“雪”这个词的重量，使不同变化的风景逐渐变得更加寒冷。
插画家重新调整“雪”这个词的权重，使景观在各种变化中逐渐变得更加寒冷。当团队预先定义质量阈值、为边缘情况保留人性化的升级路径、并随着时间的推移跟踪生产力的提高和错误成本时，通常会得到更好的结果。
实践中的提示到提示交叉注意编辑
讲故事的人在提示中将“狮子”换成“老虎”，以保持角色表的相同姿势和背景。
讲故事的人在提示中将“狮子”换成“老虎”，以保持角色表的相同姿势和背景。当团队预先定义质量阈值、为边缘情况保留人为升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
实践中的提示到提示交叉注意编辑
研究人员使用它生成配对的前后图像作为遵循指令的编辑器的训练数据。
研究人员使用它生成配对的前后图像，作为遵循指令的编辑人员的训练数据。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。