視覺人工智慧指南

ESRGAN 和 GAN 超分辨率

ESRGAN 使用生成器與鑑別器競賽來在放大影像時創造真實的細節,超越模糊插值。

閱讀時間約2分鐘最後更新

概述

It matters because it set the template for photo-realistic super-resolution that still influences tools today.

深入探討

2018 年推出的 ESRGAN(增強型超解析度生成對抗網路)在早期的 SRGAN 的基礎上進行了改進。它使用由殘差密集區塊(RRDB)建構的生成器,該生成器堆疊了許多密集連接,而沒有批量歸一化,作者發現這會導致偽影。一個單獨的鑑別器網路試圖區分真實的高解析度照片和生成的照片,促使生成器產生令人信服的紋理,如頭髮、磚塊和樹葉。 ESRGAN 結合了三種損失:像素級內容損失、活化前在 VGG 特徵圖上測量的感知損失以及對抗性損失。它還引入了一個「相對論」判別器,可以判斷真實圖像是否比假圖像看起來更真實,從而強化訓練。 ESRGAN 贏得了 2018 年 PIRM 感知超解析度挑戰賽。

技術洞察

關鍵想法是以像素精度換取感知真實感。像 MSE 這樣的像素損失在合理的紋理上平均,產生平滑、模糊的輸出。相反,對抗性損失迫使輸出到多種真實影像上,因此生成器致力於生成一種清晰、可信的紋理。 ESRGAN 的相對論性平均判別器估計真實補丁比假補丁更真實,與標準判別器相比,它傳輸更多梯度資訊並產生更清晰的邊緣。

戰略影響

速度與規模

視覺人工智慧可以大規模自動化檢查、檢測和標記任務。

配裝選擇

創意團隊可以透過更少的手動修改來更快地建立概念原型。

團隊與工作流程

操作可以使用以前難以處理的影像和視訊訊號。

ESRGAN 和 GAN 超解析度的未來

純 GAN 超解析度越來越多地與 Transformer 主幹和基於擴散的升級器混合或取代,這些升級器提供更穩定的訓練和更精細的控制。儘管如此,ESRGAN 的 RRDB 生成器和感知加對抗配方仍然是嵌入無數遊戲紋理 mod 和照片工具中的強大、輕量級基線。期望混合模型能夠保持 GAN 的清晰度,同時借用擴散的多樣性和 Transformer 的遠端上下文,以及更緊密的設備部署以實現即時升級。

現實世界的實施

升級電玩模組中的低解析度紋理(在舊 PC 遊戲的「AI Upscale」模組社群中很受歡迎)

在以較大尺寸列印之前增強舊的家庭照片或掃描影像

改進從低解析度檔案或監視錄影中擷取的靜態影像

為 3D 藝術家利用小型參考影像產生高解析度紋理貼圖

風險與防護欄

如果出處不明,肖像權和同意可能會成為法律風險。

模型表現可能因光照、人口統計和環境的不同而有所不同。

除非監控置信閾值,否則誤報可能會被忽略。

實施路線圖

1

定義精確度、召回率和錯誤成本的接受標準。

2

使用符合實際生產條件的數據進行測試。

3

為低置信度或高影響力的預測添加人工審核。

4

追蹤模型漂移並在相機或資料集變更後重新驗證。

不斷探索

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the ESRGAN and GAN Super-Resolution quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

開始測驗

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

下一步指南

影像超解析度

常見問題

What is ESRGAN and GAN Super-Resolution?

ESRGAN 使用生成器與鑑別器競賽來在放大影像時創造真實的細節,超越模糊插值。這很重要,因為它為逼真的超解析度設定了模板,至今仍然影響著工具。

ESRGAN 中的「GAN」指的是什麼?

GAN 代表生成對抗網絡,是生成器和判別器在訓練期間競爭的設置。

ESRGAN 生成器主要使用什麼建構塊?

ESRGAN 的生成器堆疊 Residual-in-Residual Dense Blocks (RRDB),即密集連接的殘差單元,作為其核心結構。

為什麼 ESRGAN 的作者從生成器中刪除了批量歸一化?

作者發現批量歸一化在超解析度輸出中產生了令人不快的偽影,因此他們將其從 RRDB 區塊中刪除。

與僅像素損失方法相比,ESRGAN 的主要權衡是什麼?

即使單一像素值與地面真實值不同,對抗性損失也會將輸出推向逼真的紋理。

ESRGAN 的感知 (VGG) 損失在哪裡測量?

ESRGAN 在啟動函數之前計算 VGG 特徵圖上的感知損失,作者發現這給出了更清晰的結果。