视觉人工智能指南

神经辐射场

神经辐射场 (NeRF) 从几张普通照片重建完整的 3D 场景,让您将相机带到全新的视角。

概述

神经辐射场 (NeRF) 从几张普通照片重建完整的 3D 场景,让您将相机带到全新的视角。它将 3D 捕获重新定义为训练微型神经网络而不是构建网格。

神经辐射场属于计算机视觉工作流程,用于解释或生成视觉媒体以进行分析、操作和创造力。

深入探讨

NeRF 由 Mildenhall 及其同事于 2020 年推出,将整个场景存储在小型神经网络(多层感知器)内。给定 3D 点和观察方向,网络会输出该点的颜色及其不透明程度。为了渲染像素,NeRF 将光线射入场景,沿其采样点,查询网络,并使用体积渲染混合结果。由于整个过程是可微分的,因此通过将渲染像素与真实输入照片进行比较并进行调整直到它们匹配来训练网络。其回报是惊人的照片级真实感,包括依赖于视图的效果,例如随着您移动而变化的反射和光泽高光。缺点是每个场景都需要自己的训练运行,并且原始方法的训练和渲染速度都很慢。

技术洞察

NeRF 将场景表示为连续的 5D 函数:输入位置(x、y、z)加上观察方向(两个角度),MLP 返回 RGB 颜色和体积密度。一个关键的细节是位置编码,它通过高频正弦和余弦函数映射坐标,以便网络可以捕获清晰的细节,而不是产生模糊的输出。渲染沿着每条相机光线集成颜色和密度,对更近、更不透明的样本进行更重的加权,这正是经典体积渲染的可训练数学。

掌握神经辐射场

神经辐射场 (NeRF) 从几张普通照片重建完整的 3D 场景,让您将相机带到全新的视角。它将 3D 捕获重新定义为训练微型神经网络而不是构建网格。神经辐射场属于计算机视觉工作流程,用于解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解,请将神经辐射场视为一种操作模型,而不是单一功能:定义期望的结果,澄清假设,并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。

在实践中,使用神经辐射场的强大团队会平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

视觉人工智能可以大规模自动化检查、检测和标记任务。同时,如果出处不明,肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

视觉人工智能可以大规模自动化检查、检测和标记任务。

视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

创意团队可以通过更少的手动修改更快地构建概念原型。

创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

操作可以使用以前难以处理的图像和视频信号。

操作可以使用以前难以处理的图像和视频信号。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

神经辐射场的未来

NeRF 研究在 2020 年之后呈爆炸式增长,后续研究成果包括 Instant-NGP 使用哈希网格编码将训练时间从几小时缩短为几秒,以及 Mip-NeRF 提高了跨尺度的质量。该领域越来越多地与渲染速度更快的高斯泼溅技术融合或受到挑战。期待 NeRF 衍生技术在地图、电子商务产品视图、电影视觉效果和 AR/VR 方面的发展,以及动态 NeRF 的发展,这些技术可以处理移动场景和随光线变化而进行的“野外”捕捉。最大的主题是速度、可编辑性以及从更少、更混乱的照片中捕捉场景。

现实世界的实施

将手机拍摄的物体视频转换为 3D 视图,您可以在线购物

将真实地点重建为电影和视觉效果的逼真背景

构建沉浸式 3D 场景以实现虚拟和增强现实体验

以数字方式保存照片集中的文化遗产和文物

实施模式

神经辐射场的实践

将手机拍摄的物体视频转换为 3D 视图,您可以在轨道上进行网上购物。

将物体的电话视频转换为可在线购物的 3D 视图 团队在预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

神经辐射场的实践

将真实地点重建为电影和视觉效果的逼真背景。

将真实位置重建为电影和视觉效果的逼真背景 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

神经辐射场的实践

构建沉浸式 3D 场景以实现虚拟和增强现实体验。

为虚拟和增强现实体验构建沉浸式 3D 场景 团队在预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

神经辐射场的实践

以数字方式保存照片集中的文化遗产和文物。

以数字方式保存照片集中的文化遗产和文物 团队在预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

风险与防护栏

!

如果出处不明,肖像权和同意可能会成为法律风险。

!

模型性能可能因光照、人口统计和环境的不同而有所不同。

!

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

使用符合实际生产条件的数据进行测试。

使用符合实际生产条件的数据进行测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

为低置信度或高影响力的预测添加人工审核。

为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索