概述
DreamFusion 使用 2D 图像扩散模型作为批评者，从文本生成 3D 对象，从不训练任何 3D 数据。其核心发明“分数蒸馏采样”成为整个文本转 3D 领域的基础配方。
DreamFusion 和 Score Distillation Sampling 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。
深入探讨
来自 2022 年 Google 的 DreamFusion 问：2D 文本到图像模型能否教会 3D 场景从各个角度看都是正确的？它优化了 NeRF（神经辐射场），以便来自随机摄像机视点的渲染在加噪并显示到冻结扩散模型 (Imagen) 时，可以为文本提示评分为合理的图像。至关重要的是，它不使用 3D 训练数据。突破在于分数蒸馏采样（SDS）：SDS 不通过扩散模型昂贵的 U-Net 进行反向传播，而是使用模型的预测噪声作为直接在渲染像素上的梯度信号。通过数千个视点进行迭代，可以通过单个句子雕刻出连贯的 3D 资产，包括几何图形和依赖于视图的外观。
技术洞察
SDS 将扩散模型视为冻结的评分函数。它渲染 NeRF，添加噪声，要求扩散 U-Net 预测该噪声，并计算推回到渲染图像上的梯度（预测噪声减去添加的噪声），从而计算 NeRF 权重。跳过 U-Net 雅可比行列式使其易于处理。需要高的无分类器指导（大约 100）才能获得清晰的结果，这会导致特征过度饱和，有时模糊的“DreamFusion 外观”。
掌握 DreamFusion 和乐谱蒸馏采样
DreamFusion 使用 2D 图像扩散模型作为批评者，从文本生成 3D 对象，从不训练任何 3D 数据。其核心发明“分数蒸馏采样”成为整个文本转 3D 领域的基础配方。 DreamFusion 和 Score Distillation Sampling 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。为了建立深入的理解，请将 DreamFusion 和分数蒸馏采样视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用 DreamFusion 和 Score Distillation Sampling 的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
仅根据文本生成“戴着小帽子的松鼠的 DSLR 照片”的 3D 模型
创建草稿游戏和 AR 资源，无需手动 3D 雕刻
生成可供艺术家改进的可导出网格，而不是从头开始构建
根据 SDS 评估较新的文本转 3D 方法的研究基线
实施模式
DreamFusion 和 Score Distilling 采样实践
仅根据文本生成“戴着小帽子的松鼠的 DSLR 照片”的 3D 模型。
仅根据文本生成“戴着小帽子的松鼠的 DSLR 照片”的 3D 模型 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
DreamFusion 和 Score Distilling 采样实践
创建草稿游戏和 AR 资源，无需手动 3D 雕刻。
无需手动 3D 雕刻即可创建草稿游戏和 AR 资产 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
DreamFusion 和 Score Distilling 采样实践
生成可供艺术家改进的可导出网格，而不是从头开始构建。
生成可导出的网格供美工人员完善，而不是从头开始构建 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
DreamFusion 和 Score Distilling 采样实践
根据 SDS 评估较新的文本转 3D 方法的研究基线。
用于评估较新的文本到 3D 方法与 SDS 的研究基线通常会在预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。