視覺人工智慧指南

LaMa 解析度-穩健修復

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。

概述

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。這很重要,因為它以遠高於訓練時的分辨率產生令人信服的填充,使任何人都可以進行專業的物件移除。

LaMa Resolution-Robust Inpainting 屬於電腦視覺工作流程,可解釋或產生視覺媒體以進行分析、操作和創造力。

深入探討

三星 AI 研究人员于 2021 年推出的 LaMa 解决了一个长期存在的问题:大多数修复模型在被要求填充大型蒙版或重复纹理(如砖墙和瓷砖地板)时会出现污点或模糊。它的突破在于使用快速傅立叶卷积(FFC),它为网络提供了单层的全局感受野,而不是需要数十个堆叠的卷积。這讓 LaMa 立即「看到」整個影像,並連貫地延續週期性結構。它基於本身使用廣泛接受域的網絡,結合對抗性損失和感知損失進行訓練。結果概括得非常好,通常在僅對較小的作物進行訓練後就能乾淨地修復 2K 影像。

技術洞察

关键组件是快速傅立叶卷积。普通的捲積僅查看一個小的局部補丁,因此捕獲遠端結構需要非常深的網路。 FFC 將部分特徵圖轉換到頻域,在那裡應用卷積,然後變換回來。由于频域操作本质上是全局的,因此单个 FFC 层会混合整个图像中的信息,帮助 LaMa 重复纹理并尊重全局几何形状(例如墙壁边缘)。

掌握 LaMa 分辨率-稳健修复

為了加深理解,請將 LaMa Resolution-Robust Inpainting 視為一種操作模型,而不是單一功能。定義期望的結果,澄清假設,並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。

在實踐中,使用 LaMa Resolution-Robust Inpainting 的強大團隊可以平衡準確性與數據品質、光照變化和標籤一致性等操作現實。他們記錄明確的成功標準,根據實際數據和工作流程進行測試,並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。

視覺人工智慧可以大規模自動化檢查、檢測和標記任務。同時,如果出處不明,肖像權和同意可能會成為法律風險。最具彈性的方法是將實驗速度與治理規則結合:運行試點、捕獲證據、發布決策日誌,並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。

戰略影響

視覺人工智慧可以大規模自動化檢查、檢測和標記任務。

視覺人工智慧可以大規模自動化檢查、檢測和標記任務。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

創意團隊可以透過更少的手動修改來更快地建立概念原型。

創意團隊可以透過更少的手動修改來更快地建立概念原型。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

操作可以使用以前難以處理的影像和視訊訊號。

操作可以使用以前難以處理的影像和視訊訊號。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

LaMa 分辨率的未来-稳健修复

LaMa 仍然是一个强大、高效的基准,并广泛嵌入免费工具和开源照片编辑器中,因为它在普通硬件上运行速度快,无需巨大的扩散模型。趨勢是混合管道:使用 LaMa 進行即時結構填充和粗草圖,然後可以選擇使用擴散模型細化細節。预计其傅立叶卷积思想将继续出现在实时编辑、视频帧修复和设备上的移动照片清理中,这些领域速度和低内存是最重要的。

現實世界的實施

從旅行照片中刪除遊客或照片轟炸者,同時保持背景牆或天空無縫

從圖像中刪除浮水印、時間戳記或徽標以進行合法的修復工作

從房地產清單照片中刪除電線和街道標誌

透過填充刮痕、撕裂和缺失的角落來恢復舊的或損壞的掃描照片

實施模式

LaMa 決議 - 穩健修復實踐

從旅行照片中去除遊客或照片轟炸者,同時保持背景牆或天空無縫。

當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時,通常會獲得更好的結果。

LaMa 決議 - 穩健修復實踐

從圖像中刪除浮水印、時間戳記或徽標以進行合法的修復工作。

當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時,通常會獲得更好的結果。

LaMa 決議 - 穩健修復實踐

從房地產清單照片中刪除電線和街道標誌。

當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時,通常會獲得更好的結果。

LaMa 決議 - 穩健修復實踐

透過填充刮痕、撕裂和缺失的角落來恢復舊的或損壞的掃描照片。

當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時,通常會獲得更好的結果。

風險與防護欄

!

如果出處不明,肖像權和同意可能會成為法律風險。

!

模型表現可能因光照、人口統計和環境的不同而有所不同。

!

除非監控置信閾值,否則誤報可能會被忽略。

實施路線圖

1

定義精確度、召回率和錯誤成本的接受標準。

將此視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

2

使用符合實際生產條件的數據進行測試。

將此視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

3

為低置信度或高影響力的預測添加人工審核。

將此視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

4

追蹤模型漂移並在相機或資料集變更後重新驗證。

將此視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

不斷探索

Check your understanding

Test yourself: take the LaMa Resolution-Robust Inpainting quiz

Start quiz