視覺人工智慧指南

LaMa 解析度-穩健修復

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。

閱讀時間約2分鐘最後更新

概述

It matters because it produces convincing fills at resolutions far higher than it was trained on, making professional object removal accessible to anyone.

深入探討

三星 AI 研究人员于 2021 年推出的 LaMa 解决了一个长期存在的问题:大多数修复模型在被要求填充大型蒙版或重复纹理(如砖墙和瓷砖地板)时会出现污点或模糊。它的突破在于使用快速傅立叶卷积(FFC),它为网络提供了单层的全局感受野,而不是需要数十个堆叠的卷积。這讓 LaMa 立即「看到」整個影像,並連貫地延續週期性結構。它基於本身使用廣泛接受域的網絡,結合對抗性損失和感知損失進行訓練。結果概括得非常好,通常在僅對較小的作物進行訓練後就能乾淨地修復 2K 影像。

技術洞察

关键组件是快速傅立叶卷积。普通的捲積僅查看一個小的局部補丁,因此捕獲遠端結構需要非常深的網路。 FFC 將部分特徵圖轉換到頻域,在那裡應用卷積,然後變換回來。由于频域操作本质上是全局的,因此单个 FFC 层会混合整个图像中的信息,帮助 LaMa 重复纹理并尊重全局几何形状(例如墙壁边缘)。

戰略影響

速度與規模

視覺人工智慧可以大規模自動化檢查、檢測和標記任務。

配裝選擇

創意團隊可以透過更少的手動修改來更快地建立概念原型。

團隊與工作流程

操作可以使用以前難以處理的影像和視訊訊號。

LaMa 分辨率的未来-稳健修复

LaMa 仍然是一个强大、高效的基准,并广泛嵌入免费工具和开源照片编辑器中,因为它在普通硬件上运行速度快,无需巨大的扩散模型。趨勢是混合管道:使用 LaMa 進行即時結構填充和粗草圖,然後可以選擇使用擴散模型細化細節。预计其傅立叶卷积思想将继续出现在实时编辑、视频帧修复和设备上的移动照片清理中,这些领域速度和低内存是最重要的。

現實世界的實施

從旅行照片中刪除遊客或照片轟炸者,同時保持背景牆或天空無縫

從圖像中刪除浮水印、時間戳記或徽標以進行合法的修復工作

從房地產清單照片中刪除電線和街道標誌

透過填充刮痕、撕裂和缺失的角落來恢復舊的或損壞的掃描照片

風險與防護欄

如果出處不明,肖像權和同意可能會成為法律風險。

模型表現可能因光照、人口統計和環境的不同而有所不同。

除非監控置信閾值,否則誤報可能會被忽略。

實施路線圖

1

定義精確度、召回率和錯誤成本的接受標準。

2

使用符合實際生產條件的數據進行測試。

3

為低置信度或高影響力的預測添加人工審核。

4

追蹤模型漂移並在相機或資料集變更後重新驗證。

不斷探索

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the LaMa Resolution-Robust Inpainting quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

開始測驗

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

下一步指南

CodeFormer 穩健的人臉恢復

常見問題

What is LaMa Resolution-Robust Inpainting?

LaMa(大掩模修复)是一种快速、轻量级的神经网络,即使孔很大,也能干净地填充图像中缺失或删除的区域。這很重要,因為它以遠高於訓練時的分辨率產生令人信服的填充,使任何人都可以進行專業的物件移除。

賦予 LaMa 圖像全球視野的標誌性建築組件是什麼?

LaMa 使用快速傅立葉卷積 (FFC),其部分在頻域中運行,以在單層中提供全局感受野。

為什麼 LaMa 比許多早期的修復模型更能處理大型面具?

由於 FFC 可以立即看到整個影像,因此即使在非常大的缺失區域中,LaMa 也可以連貫地延續紋理和幾何形狀。

LaMa 的一個顯著優勢是它能夠以何種解析度修復影像?

LaMa 能夠很好地概括出比訓練期間看到的分辨率更高的分辨率,這就是它被稱為分辨率魯棒的原因。

由於其頻域處理,LaMa 能夠特別出色地處理哪種紋理?

頻域卷積非常適合週期性圖案,因此 LaMa 乾淨利落地繼續重複磚牆和瓷磚地板等紋理。

哪種損失有助於 LaMa 產生逼真的填充而不是模糊的平均值?

LaMa 結合了對抗性和感知損失,鼓勵清晰、可信的紋理,而不是模糊的平均像素。