视觉人工智能指南

ESRGAN 和 GAN 超分辨率

ESRGAN 使用生成器与鉴别器竞赛来在放大图像时创造真实的细节,超越模糊插值。

阅读时间:2分钟最后更新

概述

It matters because it set the template for photo-realistic super-resolution that still influences tools today.

深入探讨

2018 年推出的 ESRGAN(增强型超分辨率生成对抗网络)在早期的 SRGAN 的基础上进行了改进。它使用由残差密集块(RRDB)构建的生成器,该生成器堆叠了许多密集连接,而没有批量归一化,作者发现这会导致伪影。一个单独的鉴别器网络试图区分真实的高分辨率照片和生成的照片,促使生成器产生令人信服的纹理,如头发、砖块和树叶。 ESRGAN 结合了三种损失:像素级内容损失、激活前在 VGG 特征图上测量的感知损失以及对抗性损失。它还引入了一个“相对论”判别器,可以判断真实图像是否比假图像看起来更真实,从而强化训练。 ESRGAN 赢得了 2018 年 PIRM 感知超分辨率挑战赛。

技术洞察

关键思想是以像素精度换取感知真实感。像 MSE 这样的像素损失在合理的纹理上平均,产生平滑、模糊的输出。相反,对抗性损失迫使输出到多种真实图像上,因此生成器致力于生成一种清晰、可信的纹理。 ESRGAN 的相对论平均判别器估计真实补丁比假补丁更真实,与标准判别器相比,它传输更多梯度信息并产生更清晰的边缘。

战略影响

速度与规模

视觉人工智能可以大规模自动化检查、检测和标记任务。

构建选择

创意团队可以通过更少的手动修改更快地构建概念原型。

团队与工作流程

操作可以使用以前难以处理的图像和视频信号。

ESRGAN 和 GAN 超分辨率的未来

纯 GAN 超分辨率越来越多地与 Transformer 主干和基于扩散的升级器混合或取代,这些升级器提供更稳定的训练和更精细的控制。尽管如此,ESRGAN 的 RRDB 生成器和感知加对抗配方仍然是嵌入无数游戏纹理 mod 和照片工具中的强大、轻量级基线。期望混合模型能够保持 GAN 的清晰度,同时借用扩散的多样性和 Transformer 的远程上下文,以及更紧密的设备部署以实现实时升级。

现实世界的实施

升级视频游戏模组中的低分辨率纹理(在旧 PC 游戏的“AI Upscale”模组社区中很流行)

在以较大尺寸打印之前增强旧的家庭照片或扫描图像

改进从低分辨率档案或监控录像中提取的静态图像

为 3D 艺术家利用小型参考图像生成高分辨率纹理贴图

风险与防护栏

如果出处不明,肖像权和同意可能会成为法律风险。

模型性能可能因光照、人口统计和环境的不同而有所不同。

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

2

使用符合实际生产条件的数据进行测试。

3

为低置信度或高影响力的预测添加人工审核。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

不断探索

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the ESRGAN and GAN Super-Resolution quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

开始测验

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

下一个指南

图像超分辨率

常见问题

What is ESRGAN and GAN Super-Resolution?

ESRGAN 使用生成器与鉴别器竞赛来在放大图像时创造真实的细节,超越模糊插值。这很重要,因为它为逼真的超分辨率设置了模板,至今仍然影响着工具。

ESRGAN 中的“GAN”指的是什么?

GAN 代表生成对抗网络,是生成器和判别器在训练期间竞争的设置。

ESRGAN 生成器主要使用什么构建块?

ESRGAN 的生成器堆栈 Residual-in-Residual Dense Blocks (RRDB),即密集连接的残差单元,作为其核心结构。

为什么 ESRGAN 的作者从生成器中删除了批量归一化?

作者发现批量归一化在超分辨率输出中产生了令人不快的伪像,因此他们将其从 RRDB 块中删除。

与仅像素损失方法相比,ESRGAN 的主要权衡是什么?

即使单个像素值与地面真实值不同,对抗性损失也会将输出推向逼真的纹理。

ESRGAN 的感知 (VGG) 损失在哪里测量?

ESRGAN 在激活函数之前计算 VGG 特征图上的感知损失,作者发现这给出了更清晰的结果。