概述
Prompt-to-Prompt 通过调整文本提示来编辑生成的图像，同时重用模型的内部注意力图，因此更改一个单词会交换该元素，同时保持场景的其余部分完好无损。它是透過文字而不是像素進行編輯。
提示到提示交叉注意編輯屬於電腦視覺工作流程，它解釋或產生視覺媒體以進行分析、操作和創造力。
深入探討
Prompt-to-Prompt（Hertz et al., 2022）是一種用於擴散模型中文字驅動編輯的免訓練技術。關鍵的見解是交叉注意力圖，它告訴模型每個單字應該影響哪些圖像區域，並對場景的空間佈局進行編碼。當您使用稍微修改過的提示重新產生影像時，此方法會將原始提示的注意力圖注入到新的運行中。將“自行車”替換為“摩托車”，可以交換該對象，同時保留構圖和背景。添加單字只會為未更改的標記注入註意力，因此會出現一個新屬性，而無需重新調整所有內容。您也可以重新調整令牌的注意力以增強或削弱其效果。因為它不需要微調或掩模，所以它成為許多後來的編輯方法的基礎構建塊，包括 InstructPix2Pix 的數據生成。
技術洞察
在去雜訊過程中，交叉注意力為每個標記計算它在影像中出現的位置的空間圖。 Prompt-to-Prompt 將這些地圖從原始生成複製到編輯後的共享令牌中。对于单词交换，它在相应的标记之间映射注意力；对于添加的单词，它保留旧的地图，只让新的标记形成新的关注；重新加权只是缩放令牌的注意力值，增强或减弱其视觉影响力。
掌握提示到提示交叉注意力編輯
Prompt-to-Prompt 通过调整文本提示来编辑生成的图像，同时重用模型的内部注意力图，因此更改一个单词会交换该元素，同时保持场景的其余部分完好无损。它是透過文字而不是像素進行編輯。提示到提示交叉注意編輯屬於電腦視覺工作流程，它解釋或產生視覺媒體以進行分析、操作和創造力。为了建立深入的理解，请将提示到提示交叉注意编辑视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用提示到提示交叉注意编辑的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
視覺人工智慧可以大規模自動化檢查、檢測和標記任務。同時，如果出處不明，肖像權和同意可能會成為法律風險。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
視覺人工智慧可以大規模自動化檢查、檢測和標記任務。
視覺人工智慧可以大規模自動化檢查、檢測和標記任務。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
創意團隊可以透過更少的手動修改來更快地建立概念原型。
創意團隊可以透過更少的手動修改來更快地建立概念原型。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
操作可以使用以前難以處理的影像和視訊訊號。
操作可以使用以前難以處理的影像和視訊訊號。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
設計師將“街道上的紅色汽車”更改為“街道上的藍色汽車”，並保持完全相同的場景佈局。
一位插畫家重新調整了「雪」這個詞的重量，使不同變化的風景逐漸變得更加寒冷。
講故事的人在提示中將“獅子”換成“老虎”，以保持角色表的相同姿勢和背景。
研究人員使用它來產生配對的前後圖像作為遵循指令的編輯器的訓練資料。
實施模式
實踐中的提示到提示交叉注意編輯
設計師將“街道上的紅色汽車”更改為“街道上的藍色汽車”，並保持完全相同的場景佈局。
設計師將“街道上的紅色汽車”更改為“街道上的藍色汽車”，並保持完全相同的場景佈局。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
實踐中的提示到提示交叉注意編輯
一位插畫家重新調整了「雪」這個詞的重量，使不同變化的風景逐漸變得更加寒冷。
插畫家重新調整「雪」這個詞的權重，使景觀在各種變化中逐漸變得更加寒冷。当团队预先定义质量阈值、为边缘情况保留人性化的升级路径、并随着时间的推移跟踪生产力的提高和错误成本时，通常会得到更好的结果。
實踐中的提示到提示交叉注意編輯
講故事的人在提示中將“獅子”換成“老虎”，以保持角色表的相同姿勢和背景。
講故事的人在提示中將“獅子”換成“老虎”，以保持角色表的相同姿勢和背景。當團隊預先定義品質閾值、為邊緣情況保留人為升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
實踐中的提示到提示交叉注意編輯
研究人員使用它來產生配對的前後圖像作為遵循指令的編輯器的訓練資料。
研究人員使用它來產生配對的前後圖像，作為遵循指令的編輯人員的訓練資料。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
如果出處不明，肖像權和同意可能會成為法律風險。
模型表現可能因光照、人口統計和環境的不同而有所不同。
除非監控置信閾值，否則誤報可能會被忽略。
實施路線圖
定義精確度、召回率和錯誤成本的接受標準。
定義精確度、召回率和錯誤成本的接受標準。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用符合實際生產條件的數據進行測試。
使用符合實際生產條件的數據進行測試。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
為低置信度或高影響力的預測添加人工審核。
為低置信度或高影響力的預測添加人工審核。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
追蹤模型漂移並在相機或資料集變更後重新驗證。
追蹤模型漂移並在相機或資料集變更後重新驗證。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。