概述
Marigold 重新利用预训练的图像生成扩散模型（稳定扩散）来预测高度详细的深度图。它表明您可以将生成器丰富的视觉知识转变为精确的感知工具，而训练数据却少得惊人。
万寿菊扩散深度估计属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
Marigold（苏黎世联邦理工学院，CVPR 2024 最佳论文荣誉奖）将深度估计重新定义为条件生成问题。它不是从头开始训练深度网络，而是微调稳定扩散以“生成”以输入图像为条件的深度图。我们的见解是，经过训练来合成真实感图像的模型已经在其潜在空间深处学习了场景几何、光照和结构，这正是对深度有用的先验知识。值得注意的是，Marigold 仅在合成数据集（如 Hypersim 和 Virtual KITTI）上进行了微调，但可以很好地推广到零拍摄的真实照片。它产生具有极其精细细节的仿射不变相对深度，尽管迭代去噪使其比 DepthAnything 等前馈模型慢。
技术洞察
万寿菊在稳定扩散的潜在空间中运作。图像和深度图都由同一个VAE编码； U-Net 经过微调，可以根据干净的潜在图像对潜在深度进行去噪。在推理时，它运行标准迭代去噪循环，然后解码潜在深度。因为它是采样的，所以可以集成多个运行来提高稳定性，用计算来换取准确性。后来的“LCM”和一步蒸馏版本将数十个步骤缩减为一次。
掌握万寿菊扩散深度估计
Marigold 重新利用预训练的图像生成扩散模型（稳定扩散）来预测高度详细的深度图。它表明您可以将生成器丰富的视觉知识转变为精确的感知工具，而训练数据却少得惊人。万寿菊扩散深度估计属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将 Marigold 扩散深度估计视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用 Marigold 扩散深度估计的强大团队可以平衡准确性与数据质量、照明方差和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
从建筑和产品照片中提取细粒度的深度，用于重新照明和 3D 模型。
生成高细节深度图，用作可控图像和视频生成的条件。
帮助电影和视觉特效团队进行边缘精度至关重要的哑光和视差工作。
作为研究基线，展示如何使生成先验适应密集的预测任务。
实施模式
万寿菊扩散深度估计实践
从建筑和产品照片中提取细粒度的深度，用于重新照明和 3D 模型。
从建筑和产品照片中提取细粒度的深度以进行重新照明和 3D 模型当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
万寿菊扩散深度估计实践
生成高细节深度图，用作可控图像和视频生成的条件。
生成高细节深度图，用作可控图像和视频生成的条件当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
万寿菊扩散深度估计实践
帮助电影和视觉特效团队进行边缘精度至关重要的哑光和视差工作。
帮助电影和视觉特效团队处理边缘精度至关重要的遮罩和视差工作当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
万寿菊扩散深度估计实践
作为研究基线，展示如何使生成先验适应密集的预测任务。
作为研究基线，显示如何使生成先验适应密集的预测任务当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。