概述
VQ-VAE 将图像、音频或视频压缩为从学习的码本中提取的离散代码的小网格，而不是连续的数字。这种离散瓶颈使得像 Transformer 这样强大的序列模型能够将媒体视为“令牌”，就像单词一样。
VQ-VAE 和 Discrete Latents 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。
深入探讨
VQ-VAE（矢量量化变分自动编码器）由 DeepMind 的 van den Oord 及其同事于 2017 年提出，是一种潜在空间离散的自动编码器。编码器将图像转换为连续向量的网格；然后，每个向量都会被捕捉到学习的嵌入码本中最近的条目（向量量化）。解码器根据这些量化代码重建图像。由于潜在变量现在是索引的有限词汇，因此单独的模型可以学习它们的分布并生成新内容。这个两阶段配方为 DALL-E 1、音乐点唱机和 VQGAN 提供动力，它增加了感知和对抗性损失，以实现更清晰的重建。 VQ-VAE-2堆叠多种分辨率以产生高保真图像。
技术洞察
量化步骤（argmin 最近邻查找）是不可微的，因此 VQ-VAE 使用直通估计器：梯度直接从解码器输入复制回编码器输出，就好像量化是恒等式一样。训练结合了重建损失、将嵌入拉向编码器输出的码本损失以及使编码器致力于其所选代码的承诺损失。常见的故障是码本崩溃，即仅使用了少数代码。
掌握 VQ-VAE 和离散潜伏
VQ-VAE 将图像、音频或视频压缩为从学习的码本中提取的离散代码的小网格，而不是连续的数字。这种离散瓶颈使得像 Transformer 这样强大的序列模型能够将媒体视为“令牌”，就像单词一样。 VQ-VAE 和 Discrete Latents 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。为了建立深入的理解，请将 VQ-VAE 和离散潜伏视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用 VQ-VAE 和离散潜伏期的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
DALL-E 1 使用离散 VQ-VAE 分词器，因此 Transformer 可以生成图像作为码本索引序列。
VQGAN 将 VQ-VAE 与对抗性和感知损失相结合，为艺术生成生成清晰、高分辨率的图像标记。
OpenAI 的 Jukebox 将 VQ-VAE 应用于原始音频，将音乐压缩为离散代码以进行生成建模。
VQ-VAE-2 堆叠分层离散潜在图像来合成多样化的高保真图像，可与同时代的 GAN 相媲美。
实施模式
VQ-VAE 和离散潜在变量的实践
DALL-E 1 使用离散 VQ-VAE 分词器，因此 Transformer 可以生成图像作为码本索引序列。
DALL-E 1 使用离散的 VQ-VAE 分词器，因此 Transformer 可以生成图像作为密码本索引序列。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
VQ-VAE 和离散潜在变量的实践
VQGAN 将 VQ-VAE 与对抗性和感知损失相结合，为艺术生成生成清晰、高分辨率的图像标记。
VQGAN 将 VQ-VAE 与对抗性和感知损失相结合，为艺术生成生成清晰、高分辨率的图像标记。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
VQ-VAE 和离散潜在变量的实践
OpenAI 的 Jukebox 将 VQ-VAE 应用于原始音频，将音乐压缩为离散代码以进行生成建模。
OpenAI 的 Jukebox 将 VQ-VAE 应用于原始音频，将音乐压缩为离散代码以进行生成建模。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
VQ-VAE 和离散潜在变量的实践
VQ-VAE-2 堆叠分层离散潜在图像来合成多样化的高保真图像，可与同时代的 GAN 相媲美。
VQ-VAE-2 堆叠分层离散潜在模型来合成可与同时代的 GAN 相媲美的多样化、高保真图像。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。