概述
方法可以使用目标示例或对齐表示，但不能保证成功，必须根据目标设置进行评估。
深入探讨
机器学习模型假设训练和部署数据来自相同的分布，但这种假设不断被打破：在一家医院的扫描仪上训练的肿瘤分类器遇到了另一台机器，在美式英语上训练的语音模型遇到了苏格兰口音。这种差距称为领域转移，即使底层任务相同，准确性也会崩溃。领域适应缩小了这一差距，而无需为新领域完全重新标记数据。常见的策略包括对小目标样本进行微调、对齐源和目标的统计特征以使模型无法区分它们，以及使用对抗性训练来学习域不变表示。无监督变体尤其有价值，因为目标标签通常稀缺或昂贵。
现实世界的实施
调整自动驾驶汽车的感知模型，该模型是在阳光明媚的加州镜头上训练的，以便在有雾或多雪的欧洲条件下可靠地运行。
调整基于产品评论的情感分类器，使其适用于推文或医疗患者反馈，而无需完全重新标记。
使医学成像模型从一家医院的 MRI 扫描仪推广到另一家供应商具有不同图像特征的机器。
将语音识别系统从干净的录音室音频转移到带有不同口音的嘈杂呼叫中心录音。
领域适应的未来
研究探索了测试时、持续和无来源的适应，并对可用数据和标签做出了不同的假设。广泛的预训练表示可能是有用的起点，但目标准确性仍然需要测量，如果假设失败，适应可能会受到损害。基准测试和部署应该报告领域差异、目标标签使用、数据访问和性能随时间的变化，而不是承诺一个过程可以消除转变。
付诸实践
为什么这很重要
- 成本与预算. 多年来，架构决策决定着性能和运营成本。
- 更清晰的判决. 技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
- 质量控制. 更好的工程选择可以减少生产中的可靠性事故。
留意
- 优化一项基准测试可以隐藏更广泛的系统弱点。
- 基础设施和维护成本常常被低估。
- 随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
后续步骤
- 在实施之前定义延迟、质量和成本目标。
- 在实际负载和数据条件下进行基准测试。
- 仪器监控错误、漂移和用户影响。
- 在扩展之前准备回滚和事件响应路径。
不断探索
常见问题
什么是域适应？
领域适应旨在当部署数据与相关训练数据不同时提高模型的性能。方法可以使用目标示例或对齐表示，但不能保证成功，必须根据目标设置进行评估。
领域适应主要是为了解决什么问题？
域适应解决了“域转移”问题，即当模型遇到从与训练时不同的分布中提取的数据时发生的准确性损失。
在域对抗网络中，梯度反转层的作用是什么？
通过翻转域分类器的梯度，特征提取器学习域分类器无法分离的表示，从而产生域不变特征。
是什么让“无监督”领域适应特别有用？
无监督域适应使用标记的源数据但仅使用未标记的目标数据来传输知识，这很有价值，因为目标标签通常稀缺或昂贵。
哪种场景是域转移的典型示例？
不同的成像硬件产生统计上不同的图像，因此即使医疗任务不变，分类器也可能会失去准确性。
“无源”域适应方法旨在避免什么？
无源方法将预训练模型适应新领域，而无需重新访问原始训练数据，这有助于解决隐私和存储限制。