概述
Diffusion Transformers (DiTs) 将图像和视频生成器核心的卷积 U-Net 替换为 Transformer 主干。该架构为 Stable Diffusion 3 和 OpenAI 的 Sora 等领先系统提供支持，并且随着计算量的增加，它的扩展性非常好。
Diffusion Transformers 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。
深入探讨
扩散模型通过从纯噪声开始并迭代地将其去噪成连贯的图片来生成图像。多年来，进行去噪的网络一直是 U-Net，一种卷积架构。 Peebles 和 Xie 在 2022 年推出的 Diffusion Transformer 用 Transformer 取代了 U-Net。图像首先被压缩到潜在空间中，分成小块，每个块变成一个标记，就像语言模型中的单词一样。然后，Transformer 在每个去噪步骤中通过自注意力处理这些标记。一个重要的发现是，当您遵循干净的缩放法则增加模型大小并减少补丁大小时，DiT 性能可预测地提高。这种可扩展性就是文本到视频和高端文本到图像系统大部分迁移到 Transformer 主干的原因。
技术洞察
核心创新是 DiT 如何注入时间步长和文本提示等条件。他们使用自适应层归一化 (adaLN)，而不是简单的串联，其中网络根据调节信号预测归一化层的尺度和移位参数。 adaLN-zero 变体初始化这些，因此每个块都作为恒等函数启动，从而稳定训练。补丁被展平为令牌，由具有自注意力的标准 Transformer 块进行处理，然后重新组装并解码回像素。
掌握扩散变压器
Diffusion Transformers (DiTs) 将图像和视频生成器核心的卷积 U-Net 替换为 Transformer 主干。该架构为 Stable Diffusion 3 和 OpenAI 的 Sora 等领先系统提供支持，并且随着计算量的增加，它的扩展性非常好。 Diffusion Transformers 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。为了建立深入的理解，请将扩散变压器视为一种操作模型，而不是单一功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用 Diffusion Transformer 的强大团队会平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
OpenAI 的 Sora 使用时空补丁上的 Transformer 主干，根据文本提示生成一分钟长的高保真视频。
Stable Diffusion 3 采用多模态 Diffusion Transformer (MMDiT) 来更好地将生成的图像与详细的文本描述对齐。
研究人员将 DiT 扩展到数十亿个参数，并观察到图像质量可预测地改善，从而指导计算预算决策。
工作室使用基于 DiT 的模型来扩展短片，将额外的视频帧视为附加的补丁标记来降噪。
实施模式
扩散变压器的实际应用
OpenAI 的 Sora 使用时空补丁上的 Transformer 主干，根据文本提示生成一分钟长的高保真视频。
OpenAI 的 Sora 使用时空补丁上的 Transformer 主干，根据文本提示生成一分钟长的高保真视频。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
扩散变压器的实际应用
Stable Diffusion 3 采用多模态 Diffusion Transformer (MMDiT) 来更好地将生成的图像与详细的文本描述对齐。
Stable Diffusion 3 采用多模态 Diffusion Transformer (MMDiT) 来更好地将生成的图像与详细的文本描述对齐。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
扩散变压器的实际应用
研究人员将 DiT 扩展到数十亿个参数，并观察到图像质量可预测地改善，从而指导计算预算决策。
研究人员将 DiT 扩展到数十亿个参数，并观察图像质量可预测地提高，从而指导计算预算决策。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
扩散变压器的实际应用
工作室使用基于 DiT 的模型来扩展短片，将额外的视频帧视为附加的补丁标记来降噪。
工作室使用基于 DiT 的模型来扩展短片，将额外的视频帧视为额外的补丁令牌来降噪。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。