概述
它不同于验证图像的来源或确定所描述的声明是否属实。检测器输出需要仔细解释，因为误报和漏报都可能发生。
主要要点
- 检查评估条件和基本费率。
- 将检测与来源和真相分开。
- 保留有关人员的决策的不确定性。
深入探讨
阅读评估条件。在一组生成器上训练的检测器可能在新模型、编辑输出、屏幕截图或重新压缩图像上表现不同。平衡基准报告的分数可能无法描述具有很少合成图像的真实集合。将检测器的得分与既定概率区分开来。校准、阈值选择和合成内容的普遍性会影响解释。高分可以成为调查的理由，而无需证明公开指控的合理性。使用补充证据：原始文件、来源历史记录、元数据、内容凭证和独立佐证。元数据可能会丢失或更改，凭证描述的是记录的来源，而不是保证每个视觉声明都是真实的。设计考虑不确定性的审核工作流程。保留证据，记录所使用的工具和版本，并解释任何结论的基础。避免根据单个未经验证的检测器结果自动惩罚人员。
04工作示例
误报次数
构建 1,000 张真实图像和 10 个合成图像的集合。假设检测器标记 1% 的真实图像并捕获 8 个合成图像。
它产生 10 个误报和 8 个真实检测，因此本示例中 18 个标记图像中只有 8 个是合成的。
在对任何图像做出声明之前，报告实际计数并审查证据。
它显示了什么
发明的图说明了基本速率效应，而不是真实检测器的性能。
现实世界的实施
在预期使用的相同压缩和图像源上评估检测器。
将检测器输出与出处审查结合起来，而不是将其视为结论。
付诸实践
为什么这很重要
- 速度与规模. 视觉人工智能可以大规模自动化检查、检测和标记任务。
- 构建选择. 创意团队可以通过更少的手动修改更快地构建概念原型。
- 团队与工作流程. 操作可以使用以前难以处理的图像和视频信号。
留意
- 如果出处不明，肖像权和同意可能会成为法律风险。
- 模型性能可能因光照、人口统计和环境的不同而有所不同。
- 除非监控置信阈值，否则误报可能会被忽视。
后续步骤
- 定义精确度、召回率和错误成本的接受标准。
- 使用符合实际生产条件的数据进行测试。
- 为低置信度或高影响力的预测添加人工审核。
- 跟踪模型漂移并在相机或数据集更改后重新验证。
资料来源与延伸阅读
不断探索
常见问题
缺少内容凭据是否意味着图像是假的？
不会。出处元数据并不普遍存在。仅凭它的缺失并不能证明图像是合成的或具有欺骗性的。