概述
自回归图像生成一次构建一张图片，从之前生成的所有内容中预测每个标记。这很重要，因为为语言模型提供动力的相同的下一代机器可以产生连贯的、可控的图像。
自回归图像生成属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
自回归图像生成将图片视为序列并逐个元素地预测它，其中每个新元素都以所有先前的元素为条件。 PixelRNN 和 PixelCNN 等早期工作每次预测一个原始像素，逐行扫描，虽然速度很慢，但理论上是干净的。现代系统首先使用 VQ-VAE 式编码器将图像压缩为离散标记网格，然后 Transformer 从左到右预测这些标记。 OpenAI 的 DALL-E 1 和 Google 的 Parti 遵循此配方，生成以文本提示为条件的图像标记，然后将其解码回像素。最大的优点是精确的似然建模和与语言共享的统一架构。成本是连续的、缓慢的采样。
技术洞察
该模型将所有标记的联合概率分解为条件的乘积：p(x) = p(x_i 给定 x_1...x_{i-1}) 的乘积。具有因果（屏蔽）注意力的 Transformer 强制每个位置只能看到较早的标记。在训练期间，它使用教师强制并行预测每个标记，但在推理时，它必须一次采样一个标记，并将每个标记反馈回来。学习的密码本将标记映射回图像块，解码器将其上采样为最终像素。
掌握自回归图像生成
自回归图像生成一次构建一张图片，从之前生成的所有内容中预测每个标记。这很重要，因为为语言模型提供动力的相同的下一代机器可以产生连贯的、可控的图像。自回归图像生成属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将自回归图像生成视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用自回归图像生成的强大团队会平衡准确性与数据质量、照明方差和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
DALL-E 1 通过从文本标题中自回归预测离散图像标记网格来生成图像。
Google 的 Parti 将自回归文本到图像 Transformer 扩展至 200 亿个参数，以实现详细、即时忠实的场景。
PixelCNN 和 PixelRNN 演示了原始的逐像素生成，并且仍然用作基于可能性的模型的教学基线。
MaskGIT 和 Muse 使用并行掩码令牌解码来加速基于令牌的图像合成，同时保持自回归式训练。
实施模式
自回归图像生成实践
DALL-E 1 通过从文本标题中自回归预测离散图像标记网格来生成图像。
DALL-E 1 通过从文本标题中自动回归预测离散图像标记网格来生成图像。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
自回归图像生成实践
Google 的 Parti 将自回归文本到图像 Transformer 扩展至 200 亿个参数，以实现详细、即时忠实的场景。
Google 的 Parti 将自回归文本到图像 Transformer 扩展至 200 亿个参数，以实现详细、即时忠实的场景。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
自回归图像生成实践
PixelCNN 和 PixelRNN 演示了原始的逐像素生成，并且仍然用作基于可能性的模型的教学基线。
PixelCNN 和 PixelRNN 展示了原始的逐像素生成，并且仍然用作基于可能性的模型的教学基线。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
自回归图像生成实践
MaskGIT 和 Muse 使用并行掩码令牌解码来加速基于令牌的图像合成，同时保持自回归式训练。
MaskGIT 和 Muse 使用并行掩码令牌解码来加速基于令牌的图像合成，同时保持自回归式训练。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。