视觉人工智能指南

视觉SLAM

视觉 SLAM 让移动摄像机构建未知空间的地图,同时跟踪其自身在该地图内的位置。

概述

视觉 SLAM 让移动摄像机构建未知空间的地图,同时跟踪其自身在该地图内的位置。它是机器人、无人机、AR 耳机和自动驾驶功能的空间支柱。

视觉SLAM属于计算机视觉工作流程,它解释或生成视觉媒体以进行分析、操作和创造力。

深入探讨

SLAM 代表同步定位和建图,视觉变体使用摄像头而不是(或并排)激光雷达或雷达来解决这个问题。当相机移动时,系统会检测角和边缘等独特特征,将它们跨帧进行匹配,并使用这些点的表观运动来估计场景的 3D 结构和相机的轨迹。困难的部分是先有鸡还是先有蛋的耦合:你需要一张地图来知道你在哪里,但你需要知道你在哪里才能构建地图。视觉 SLAM 共同解决这个问题,通常会同时完善数千个点和姿势。它为 ARKit、ARCore、Meta Quest 的由内而外跟踪、火星漫游者和仓库机器人提供动力,在 GPS 出现故障的室内工作。

技术洞察

典型的管道具有逐帧跟踪特征的前端(使用 ORB、SIFT 或直接光度测量方法)和优化贴图的后端。捆绑调整共同最大限度地减少了许多相机姿势和 3D 点的重投影误差,而环路闭合则检测相机何时重新访问某个位置并纠正累积的漂移。单目 SLAM 无法恢复绝对尺度,因此需要融合立体相机或惯性测量单元 (IMU) 来修复它。

掌握视觉 SLAM

视觉 SLAM 让移动摄像机构建未知空间的地图,同时跟踪其自身在该地图内的位置。它是机器人、无人机、AR 耳机和自动驾驶功能的空间支柱。视觉SLAM属于计算机视觉工作流程,它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解,请将视觉 SLAM 视为一种操作模型,而不是单一功能:定义期望的结果,澄清假设,并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。

在实践中,使用视觉 SLAM 的强大团队会平衡准确性与数据质量、光照变化和标签一致性等操作现实。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

视觉人工智能可以大规模自动化检查、检测和标记任务。同时,如果出处不明,肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

视觉人工智能可以大规模自动化检查、检测和标记任务。

视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

创意团队可以通过更少的手动修改更快地构建概念原型。

创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

操作可以使用以前难以处理的图像和视频信号。

操作可以使用以前难以处理的图像和视频信号。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

视觉 SLAM 的未来

该领域正在从手工制作的特征匹配转向学习特征、学习深度和端到端神经 SLAM,后者对无纹理墙壁、运动模糊和变化的光线更加鲁棒。神经辐射场和高斯分布正在被融合到 SLAM 中,以生成密集、逼真的地图,而不是稀疏的点云。预计手机和耳机上会出现更紧密的视觉惯性融合,加上标记对象的语义 SLAM,使机器人能够推理场景,而不仅仅是导航其几何形状。

现实世界的实施

在 Meta Quest 和 Apple Vision Pro 耳机上进行由内而外的位置跟踪,在没有外部基站的房间中定位用户

Apple ARKit 和 Google ARCore 将虚拟家具或游戏角色锚定到手机上的真实地板和桌子上

NASA 的火星漫游车使用视觉里程计和地图来导航没有 GPS 的地形

自主仓库机器人和室内送货机器人构建楼层地图并在货架之间进行定位

实施模式

视觉SLAM实践

在 Meta Quest 和 Apple Vision Pro 耳机上进行由内而外的位置跟踪,在没有外部基站的房间中定位用户。

在 Meta Quest 和 Apple Vision Pro 耳机上进行由内而外的位置跟踪,将用户定位在没有外部基站的房间中。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

视觉SLAM实践

Apple ARKit 和 Google ARCore 将虚拟家具或游戏角色锚定到手机上的真实地板和桌子上。

Apple ARKit 和 Google ARCore 将虚拟家具或游戏角色锚定到手机上的真实地板和桌子上 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

视觉SLAM实践

NASA 的火星漫游车使用视觉里程计和地图来导航没有 GPS 的地形。

NASA 的火星探测器使用视觉里程计和地图来导航没有 GPS 的地形。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时,通常会获得更好的结果。

视觉SLAM实践

自主仓库机器人和室内送货机器人构建楼层地图并在货架之间进行定位。

自主仓库机器人和室内送货机器人构建楼层地图并在货架之间进行本地化当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会得到更好的结果。

风险与防护栏

!

如果出处不明,肖像权和同意可能会成为法律风险。

!

模型性能可能因光照、人口统计和环境的不同而有所不同。

!

除非监控置信阈值,否则误报可能会被忽视。

实施路线图

1

定义精确度、召回率和错误成本的接受标准。

定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

使用符合实际生产条件的数据进行测试。

使用符合实际生产条件的数据进行测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

为低置信度或高影响力的预测添加人工审核。

为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

跟踪模型漂移并在相机或数据集更改后重新验证。

跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索