概述
分段任意模型 (SAM) 是 Meta AI 用于图像分割的基础模型：给定点、框或粗略提示，它会立即勾勒出相应对象的轮廓。它的构建目的是泛化到训练期间从未见过的对象和图像，从而使分割成为一项快速的任务。
分段任何模型属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
SAM 由 Meta AI 于 2023 年发布，将分段重新定义为一个可提示的问题：您给它一个提示（单击、框、掩码或文本衍生的提示），它会返回一个或多个对象掩码。它的力量部分来自于规模：它是在 SA-1B 上进行训练的，SA-1B 是一个包含 1100 万张图像的超过 10 亿个掩模的数据集，使用模型在环注释引擎构建。在架构上，SAM 具有每个图像运行一次的重型图像编码器、轻量级提示编码器和快速掩模解码器，因此可以实时交互式地重新提示单个嵌入图像。它可以零次迁移到许多任务。 2024 年发布的 SAM 2 将其扩展到视频，跨帧跟踪对象。
技术洞察
SAM 使用 Vision Transformer (ViT) 图像编码器（通常使用屏蔽自动编码进行预训练）来生成密集的图像嵌入。提示被编码为标记，并且具有交叉注意熔丝的基于变压器的解码器将提示标记与图像嵌入一起输出掩码和置信度分数。为了解决歧义（一次点击可能意味着一个按钮、一件衬衫或一个人），SAM 会同时预测几个有效的掩码并对它们进行排名，让下游使用或额外的提示消除歧义。
掌握分段任何模型
分段任意模型 (SAM) 是 Meta AI 用于图像分割的基础模型：给定点、框或粗略提示，它会立即勾勒出相应对象的轮廓。它的构建目的是泛化到训练期间从未见过的对象和图像，从而使分割成为一项快速的任务。分段任何模型属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将分段任何模型视为一种操作模型，而不是单个功能：定义期望的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用分段任意模型的强大团队会平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
图像注释平台使用 SAM 让标记器单击一次并自动生成精确的对象蒙版，从而缩短标记时间。
研究人员采用 SAM（例如 MedSAM）在 CT 和 MRI 扫描中勾勒出器官和肿瘤的轮廓。
照片和视频编辑器集成了 SAM，只需单击一下即可剪切主题或删除背景。
SAM 2 跨视频帧跟踪和分割对象，以实现 AR 效果和机器人感知。
实施模式
在实践中分割任何模型
图像注释平台使用 SAM 让标记器单击一次并自动生成精确的对象蒙版，从而缩短标记时间。
图像注释平台使用 SAM 让标记人员单击一次并自动生成精确的对象蒙版，从而缩短标记时间。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪随着时间的推移提高的生产力和错误成本时，通常会获得更好的结果。
在实践中分割任何模型
研究人员采用 SAM（例如 MedSAM）在 CT 和 MRI 扫描中勾勒出器官和肿瘤的轮廓。
研究人员采用 SAM（例如 MedSAM）来在 CT 和 MRI 扫描中勾勒出器官和肿瘤的轮廓。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
在实践中分割任何模型
照片和视频编辑器集成了 SAM，只需单击一下即可剪切主题或删除背景。
照片和视频编辑器集成 SAM，只需单击一下即可剪切主题或删除背景。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
在实践中分割任何模型
SAM 2 跨视频帧跟踪和分割对象，以实现 AR 效果和机器人感知。
SAM 2 跨视频帧跟踪和分割对象，以实现 AR 效果和机器人感知。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。