概述
MaskGIT 通过一次预测许多标记并首先填充最有信心的标记来生成图像，用一些快速并行步骤取代缓慢的从左到右生成。
MaskGIT 并行令牌解码属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。
深入探讨
MaskGIT（Masked Generative Image Transformer），来自 2022 年的 Google，重新思考基于令牌的图像模型如何解码。早期的转换器（例如 VQGAN）以自回归方式生成标记，一次按光栅顺序生成一个标记，这对于 2D 图像来说速度缓慢且不自然。相反，MaskGIT 使用 BERT 等屏蔽建模目标进行训练：隐藏图像标记的随机子集，模型学习使用双向注意力同时预测它们。在生成时，它从完全屏蔽的网格开始，并以固定次数的迭代（通常是 8 到 12 次）进行解码。每一步它都会预测每个被屏蔽的标记，保留最高置信度的预测，并为下一轮重新屏蔽其余的。这产生高质量图像的步骤比自回归解码大约少一个数量级。
技术洞察
关键组成部分是基于置信度的屏蔽方案。余弦时间表决定每次迭代显示多少个令牌，开始缓慢并加速。因为注意力是双向的，所以每个标记都会看到整个部分图像，因此首先提交最有信心的预测可以让后续步骤以可靠的上下文为条件，就像在解决模糊部分之前解决难题的简单部分一样。
掌握 MaskGIT 并行令牌解码
MaskGIT 通过一次预测许多标记并首先填充最有信心的标记来生成图像，用一些快速并行步骤取代缓慢的从左到右生成。 MaskGIT 并行令牌解码属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。为了建立深入的理解，请将 MaskGIT 并行令牌解码视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用 MaskGIT 并行令牌解码的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
通过大约 8 到 12 个并行步骤生成完整图像，而不是数百个自回归标记预测
通过仅重新预测具有周围上下文的隐藏标记来修复照片的遮罩区域
ImageNet 上的类条件图像合成质量可与慢得多的模型相媲美
充当需要快速生成的文本到图像系统（例如 Google 的 MUSE）的解码骨干
实施模式
MaskGIT 并行令牌解码实践
通过大约 8 到 12 个并行步骤生成完整图像，而不是数百个自回归标记预测。
通过大约 8 到 12 个并行步骤生成完整图像，而不是数百个自回归标记预测 团队在预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
MaskGIT 并行令牌解码实践
通过仅重新预测具有周围上下文的隐藏标记来修复照片的遮罩区域。
通过仅重新预测周围上下文的隐藏标记来修复照片的遮蔽区域当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
MaskGIT 并行令牌解码实践
ImageNet 上的类条件图像合成的质量可与慢得多的模型相媲美。
ImageNet 上的类条件图像合成的质量可与速度慢得多的模型相媲美当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
MaskGIT 并行令牌解码实践
充当需要快速生成的文本到图像系统（例如 Google 的 MUSE）的解码骨干。
充当需要快速生成的文本到图像系统（例如 Google 的 MUSE）的解码主干。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。