概述
增强必须保持目标标签不变,或显式调整以匹配转换后的示例。
深入探讨
增强通过转换或组合扩展训练分布。Mixup 生成示例和标签的凸组合。CutMix 用一个补丁替换并按面积比例混合标签。AutoAugment 通过验证性能搜索策略,而反向翻译为文本任务创建合成的同义改写。这些方法是任务特定的:对一种任务保持标签的转换可能对另一种任务失效标签。
现实世界的实施
随机裁剪或翻转可以在标签仍然有效的情况下生成改变后的图像视图。
Mixup 线性组合两个输入及其标签。
CutMix 将一个示例的图像区域粘贴到另一个示例中,并按面积加权标签。
反向翻译通过经由中间语言的翻译生成改写后的文本。
数据增强的未来
根据任务语义选择增强,并在代表部署环境的数据上进行验证。记录转换分布并测试合成伪影或标签不匹配。引用的论文报告了特定数据集和实验,并不保证更多的增强一定能提升泛化能力。
付诸实践
为什么这很重要
- 更清晰的判决. 它可以帮助您将清晰的技术声明与营销语言分开。
- 成本与预算. 在花费金钱或时间之前,您可以提出更好的实施问题。
- 团队与工作流程. 具有共同理解的团队可以做出更好的产品、政策和学习决策。
留意
- 不同的团队可能会以不同的方式使用同一术语,因此请尽早定义范围。
- 基准测试可能看起来很强大,但实际性能却参差不齐。
- 忽视数据质量和评估计划通常会产生脆弱的结果。
后续步骤
- 从您需要的结果的简单语言定义开始。
- 在测试之前选择一种成功指标和一种失败条件。
- 使用代表性数据运行小型试点,而不是完善的演示集。
- 记录数据增强在哪些方面有帮助以及在哪些方面更简单的方法更好。
不断探索
常见问题
什么是数据增强?
数据增强通过转换或组合训练示例来提升对可用数据的学习效果。增强必须保持目标标签不变,或显式调整以匹配转换后的示例。
数据增强的主要目的是什么?
增强会创建现有数据的各种修改副本,以减少过度拟合并帮助模型处理看不见的输入。
以下哪一项是常见的图像增强技术?
翻转、裁剪、旋转和颜色偏移是标准的图像增强功能,可以在保留标签的同时更改像素。
反向翻译在文本增强中起什么作用?
回译将文本通过另一种语言运行并返回,产生保留含义的改写版本。
为什么增强必须“保留标签”?
转换不应改变正确的答案 - 例如,将“6”翻转为“9”会错误地标记示例。
Mixup 技术有什么作用?
Mixup 通过线性组合输入对及其标签来创建新样本,从而鼓励更平滑的决策边界。