概述
开放词汇对象检测允许模型查找并框出由任意文本描述的对象，包括在训练期间从未见过的标记类别。这很重要，因为传统的检测器被锁定到固定的类列表，而开放词汇模型可以检测几乎任何你能命名的东西。
开放词汇对象检测属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
经典检测器在一组封闭的类别上进行训练，例如 COCO 中的 80 个类别，并且无法识别该列表之外的“事物”。开放词汇检测通过将视觉区域特征与共享视觉语言嵌入空间对齐来打破这一限制，通常从大量图像文本对中学习（如 CLIP）。在推理时，您提供文本标签，模型嵌入这些标签，并将检测到的区域与最接近的文本嵌入相匹配，因此只要您可以描述新的类别，它们就可以工作。 ViLD、GLIP、OWL-ViT、Detic 和 Grounding DINO 等系统通过将检测主干与语言基础相结合以及通过对大型、弱标记或基础数据集进行训练来普及该方法。
技术洞察
诀窍是用文本嵌入替换固定的分类器层。检测器不是为每个已知类别学习一个权重向量，而是将每个区域投影到与语言编码器相同的空间中；分类变成区域特征与用户提供的类别名称或短语的嵌入之间的相似性比较。由于文本编码器可以泛化到未见过的单词，因此在测试时交换新的标签字符串可以检测边界框训练数据中缺少的类别。
掌握开放词汇目标检测
开放词汇对象检测允许模型查找并框出由任意文本描述的对象，包括在训练期间从未见过的标记类别。这很重要，因为传统的检测器被锁定到固定的类列表，而开放词汇模型可以检测几乎任何你能命名的东西。开放词汇对象检测属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将开放词汇对象检测视为一种操作模型，而不是单一功能：定义所需的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用开放词汇目标检测的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
通过输入名称来搜索图像中的稀有或自定义对象，无需重新训练
机器人系统在抓取用户用自然语言命名的物品之前对其进行定位
通过从文本列表中检测许多新类别来自动标记数据集
内容审核，标记原始训练标签中不存在的描述对象
实施模式
实践中的开放词汇目标检测
通过输入名称来搜索图像中的稀有或自定义对象，无需重新训练。
通过键入名称来搜索图像中的稀有或自定义对象，无需重新培训当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力提升和错误成本时，通常会获得更好的结果。
实践中的开放词汇目标检测
机器人系统在抓取用户用自然语言命名的物品之前对其进行定位。
机器人系统在掌握用户之前用自然语言命名的项目时，团队通常会在预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时获得更好的结果。
实践中的开放词汇目标检测
通过从文本列表中检测许多新类别来自动标记数据集。
通过从文本列表中检测许多新类别来自动标记数据集当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
实践中的开放词汇目标检测
内容审核，标记原始训练标签中不存在的所描述的对象。
内容审核，标记原始培训标签中不存在的描述对象当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。