概述
零一到三使用以您要求的相机旋转为条件的扩散模型，将一个物体的单张照片转换为从任何新角度看到的同一物体的图像。这很重要，因为它可以让您重建 3D 一致的视图，而无需从多个侧面扫描对象。
零一到三新颖视图扩散属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
Zero-1-to-3（来自哥伦比亚，2023）对稳定扩散进行了微调，因此它可以从一张输入图像执行零样本新颖的视图合成。你向它提供一张图片加上相对相机变换（旋转和小的平移），模型就会生成从新视点看对象的样子。关键思想是，在巨大的网络图像集合上训练的大型 2D 扩散模型已经隐含地吸收了有关物体在 3D 中的外观的几何和物理先验。通过对从多个受控摄像机角度（使用 Objaverse）渲染的对象的合成数据集进行微调，模型学会将这些先验映射到显式摄像机控制上。然后生成的视图可以提供给下游 3D 重建。
技术洞察
源图像上的模型条件有两种方式：CLIP 嵌入与相对相机姿态（方位角、仰角、半径）连接以引导交叉注意力，而原始图像与噪声潜在图像通道连接，因此保留了精细的细节和身份。训练使用从 CAD 对象渲染的图像-姿态-图像三元组，因此网络可以学习视点变化和由此产生的像素变化之间的可控映射。
掌握零一到三的新颖视图扩散
零一到三使用以您要求的相机旋转为条件的扩散模型，将一个物体的单张照片转换为从任何新角度看到的同一物体的图像。这很重要，因为它可以让您重建 3D 一致的视图，而无需从多个侧面扫描对象。零一到三新颖视图扩散属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将零一到三新颖视图扩散视为一种操作模型，而不是单一功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用零一到三新颖视图扩散的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
生成单个产品照片的转盘视图，以便电子商务列表可以从各个方面显示该商品
从一张随意的手机快照中引导对象的纹理 3D 网格以进行 AR 预览
为游戏和电影概念艺术家创建一致的多角度角色或道具参考艺术
将合成的新颖视图输入 NeRF 或高斯泼溅重建中以填充看不见的几何形状
实施模式
零一到三的新颖观点传播实践
生成单个产品照片的转盘视图，以便电子商务列表可以从各个方面显示该商品。
生成单个产品照片的转盘视图，以便电子商务列表可以从各个方面显示该商品。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
零一到三的新颖观点传播实践
从一张随意的手机快照中引导对象的纹理 3D 网格以进行 AR 预览。
从一张随意的手机快照中引导对象的纹理 3D 网格进行 AR 预览 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
零一到三的新颖观点传播实践
为游戏和电影概念艺术家创建一致的多角度角色或道具参考艺术。
为游戏和电影概念艺术家创建一致的角色或道具的多角度参考艺术当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
零一到三的新颖观点传播实践
将合成的新颖视图输入 NeRF 或高斯泼溅重建中，以填充看不见的几何形状。
将合成的新颖视图输入 NeRF 或高斯泼溅重建中，以填充看不见的几何形状 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。