概述
VQGAN 将图像压缩为从学习的码本中提取的离散标记网格，让转换器以与语言模型生成文本相同的方式生成图像。
VQGAN 和 Codebook 图像合成属于计算机视觉工作流程，可解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
VQGAN 在 2021 年论文“Taming Transformers for High-Resolution Image Synthesis”中介绍，将矢量量化自动编码器 (VQVAE) 与对抗性和感知训练相结合。编码器将图像映射到特征向量的小网格；每个向量都被捕捉到学习的密码本中最近的条目，例如 1024 个离散代码，将图像转换为整数标记序列。解码器根据这些标记重建图像，并使用 GAN 判别器和感知损失进行训练，因此重建看起来清晰而不是模糊。由于图像现在是离散的标记序列，因此自回归转换器可以像语言一样对它们进行建模，一一预测标记。当与 CLIP 指导配合使用时，VQGAN 为早期的文本到图像艺术工具提供了强大的支持。
技术洞察
核心操作是矢量量化：连续的编码器输出被它们最近的码本矢量替换，并带有“直通”梯度估计器，因此尽管进行不可微查找，编码器仍然可以学习。在自动编码器之上添加基于补丁的 GAN 鉴别器，可以让 VQGAN 使用比 VQVAE 小得多的令牌网格（例如 16x16），同时保持纹理清晰，使 Transformer 建模变得易于处理。
掌握 VQGAN 和 Codebook 图像合成
VQGAN 将图像压缩为从学习的码本中提取的离散标记网格，让转换器以与语言模型生成文本相同的方式生成图像。 VQGAN 和 Codebook 图像合成属于计算机视觉工作流程，可解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将 VQGAN 和码本图像合成视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用 VQGAN 和 Codebook Image Synthesis 的强大团队可以平衡准确性与数据质量、光照变化和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
将照片编码为 16x16 的密码本标记网格，以便转换器可以对其进行建模和重新生成
将 VQGAN 与 CLIP 指导相结合，创造出 2021 年病毒式传播的超现实“VQGAN+CLIP”人工智能艺术
将图像压缩为紧凑的离散代码，以进行高效存储或下游生成训练
用作较大的基于标记的生成器（如 MaskGIT 和多模态转换器）内的图像标记生成器
实施模式
VQGAN 和 Codebook 图像合成实践
将照片编码为 16x16 的密码本令牌网格，以便转换器可以对其进行建模和重新生成。
将照片编码到 16x16 的密码本令牌网格中，以便转换器可以对其进行建模和重新生成。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
VQGAN 和 Codebook 图像合成实践
将 VQGAN 与 CLIP 指导相结合，创造出超现实的“VQGAN+CLIP”人工智能艺术，并于 2021 年风靡一时。
将 VQGAN 与 CLIP 指导相结合，创造出超现实的“VQGAN+CLIP”人工智能艺术，该艺术在 2021 年风靡一时。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
VQGAN 和 Codebook 图像合成实践
将图像压缩为紧凑的离散代码，以进行高效存储或下游生成训练。
将图像压缩为紧凑的离散代码，以实现高效存储或下游生成训练当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
VQGAN 和 Codebook 图像合成实践
用作较大的基于标记的生成器（如 MaskGIT 和多模态转换器）内的图像标记生成器。
在更大的基于令牌的生成器（如 MaskGIT 和多模式转换器）中充当图像令牌生成器 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。