提示到提示交叉注意編輯
Prompt-to-Prompt 透過調整文字提示來編輯產生的圖像，同時重複使用模型的內部注意力圖，因此更改一個單字會交換該元素，同時保持場景的其餘部分完好無損。
概述
Prompt-to-Prompt 透過調整文字提示來編輯產生的圖像，同時重複使用模型的內部注意力圖，因此更改一個單字會交換該元素，同時保持場景的其餘部分完好無損。它是透過文字而不是像素進行編輯。
提示到提示交叉注意編輯屬於電腦視覺工作流程，它解釋或產生視覺媒體以進行分析、操作和創造力。
深入探討
Prompt-to-Prompt（Hertz et al., 2022）是一種用於擴散模型中文字驅動編輯的免訓練技術。關鍵的見解是交叉注意力圖，它告訴模型每個單字應該影響哪些圖像區域，並對場景的空間佈局進行編碼。當您使用稍微修改過的提示重新產生影像時，此方法會將原始提示的注意力圖注入到新的運行中。將“自行車”替換為“摩托車”，可以交換該對象，同時保留構圖和背景。添加單字只會為未更改的標記注入註意力，因此會出現一個新屬性，而無需重新調整所有內容。您也可以重新調整令牌的注意力以增強或削弱其效果。因為它不需要微調或掩模，所以它成為許多後來的編輯方法的基礎構建塊，包括 InstructPix2Pix 的數據生成。
技術洞察
在去雜訊過程中，交叉注意力為每個標記計算它在影像中出現的位置的空間圖。 Prompt-to-Prompt 將這些地圖從原始生成複製到編輯後的共享令牌中。對於單字交換，它在相應的標記之間映射注意力；對於添加的單詞，它保留舊的地圖，只讓新的標記形成新的關注；重新加權只是縮放令牌的注意力值，增強或減弱其視覺影響力。
掌握提示到提示交叉注意力編輯
為了建立深入的理解，請將提示到提示交叉注意編輯視為一種操作模型，而不是單一功能。定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用提示到提示交叉注意編輯的強大團隊可以平衡準確性與數據品質、照明差異和標籤一致性等操作現實。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
視覺人工智慧可以大規模自動化檢查、檢測和標記任務。同時，如果出處不明，肖像權和同意可能會成為法律風險。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
視覺人工智慧可以大規模自動化檢查、檢測和標記任務。
視覺人工智慧可以大規模自動化檢查、檢測和標記任務。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
創意團隊可以透過更少的手動修改來更快地建立概念原型。
創意團隊可以透過更少的手動修改來更快地建立概念原型。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
操作可以使用以前難以處理的影像和視訊訊號。
操作可以使用以前難以處理的影像和視訊訊號。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
設計師將“街道上的紅色汽車”更改為“街道上的藍色汽車”，並保持完全相同的場景佈局。
一位插畫家重新調整了「雪」這個詞的重量，使不同變化的風景逐漸變得更加寒冷。
講故事的人在提示中將“獅子”換成“老虎”，以保持角色表的相同姿勢和背景。
研究人員使用它來產生配對的前後圖像作為遵循指令的編輯器的訓練資料。
實施模式
實踐中的提示到提示交叉注意編輯
設計師將“街道上的紅色汽車”更改為“街道上的藍色汽車”，並保持完全相同的場景佈局。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
實踐中的提示到提示交叉注意編輯
一位插畫家重新調整了「雪」這個詞的重量，使不同變化的風景逐漸變得更加寒冷。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
實踐中的提示到提示交叉注意編輯
講故事的人在提示中將“獅子”換成“老虎”，以保持角色表的相同姿勢和背景。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
實踐中的提示到提示交叉注意編輯
研究人員使用它來產生配對的前後圖像作為遵循指令的編輯器的訓練資料。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
如果出處不明，肖像權和同意可能會成為法律風險。
模型表現可能因光照、人口統計和環境的不同而有所不同。
除非監控置信閾值，否則誤報可能會被忽略。
實施路線圖
定義精確度、召回率和錯誤成本的接受標準。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用符合實際生產條件的數據進行測試。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
為低置信度或高影響力的預測添加人工審核。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
追蹤模型漂移並在相機或資料集變更後重新驗證。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
不斷探索
Check your understanding
Test yourself: take the Prompt-to-Prompt Cross-Attention Editing quiz