概述
深度可分离卷积将标准卷积分解为两个更便宜的步骤，从而减少了乘法和参数的数量。它们是让神经网络在手机和边缘设备上运行而无需熔化电池的技巧。
深度可分离卷积是一个技术构建块，会大规模影响模型质量、基础设施成本、延迟和可靠性。
深入探讨
标准卷积在单个密集操作中混合空间和通道上的信息，这是昂贵的。深度可分离卷积将其分为两个阶段。首先，深度步骤独立地为每个输入通道应用一个小滤波器，捕获每个通道内的空间模式，但从不混合通道。其次，逐点步骤使用 1x1 卷积来组合每个像素的通道，混合通道信息而无需查看邻居。通过将空间滤波与通道混合解耦，总计算量显着下降，通常是 3x3 滤波器的 8 到 9 倍，而精度损失很小。这种分解是 MobileNet 和 Xception 的支柱。
技术洞察
对于通过特征映射将 M 个输入通道映射到 N 个输出的 3x3 内核，标准卷积的成本约为每个位置的 M 乘 N 乘加的 9 倍。可分离版本的深度部分成本为 9 倍 M，加上逐点 1x1 部分的 M 倍 N。该比率约为 1/N + 1/9，因此对于较大的 N，节省的空间因子接近 1/9。
掌握深度可分离卷积
深度可分离卷积将标准卷积分解为两个更便宜的步骤，从而减少了乘法和参数的数量。它们是让神经网络在手机和边缘设备上运行而无需熔化电池的技巧。深度可分离卷积是一个技术构建块，会大规模影响模型质量、基础设施成本、延迟和可靠性。为了建立深入的理解，请将深度可分离卷积视为一种操作模型，而不是单一特征：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用深度可分离卷积的强大团队根据可靠性和成本优化架构、数据和基础设施选择。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
多年来，架构决策决定着性能和运营成本。与此同时，优化一个基准测试可以隐藏更广泛的系统弱点。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
多年来，架构决策决定着性能和运营成本。
多年来，架构决策决定着性能和运营成本。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
更好的工程选择可以减少生产中的可靠性事故。
更好的工程选择可以减少生产中的可靠性事故。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
MobileNet 和 MobileNetV2 使用它们直接在智能手机上运行图像分类，延迟最小
视频通话应用程序中的实时肖像分割和背景模糊依赖于轻量级可分离主干
安全摄像头和无人机中的设备上对象检测，其中功率和计算都有限
Xception 大规模应用它们来提高 ImageNet 的准确性，同时控制参数计数
实施模式
深度可分离卷积实践
MobileNet 和 MobileNetV2 使用它们直接在智能手机上运行图像分类，延迟最小。
MobileNet 和 MobileNetV2 使用它们直接在智能手机上以最小的延迟运行图像分类。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
深度可分离卷积实践
视频通话应用程序中的实时肖像分割和背景模糊依赖于轻量级可分离主干网。
视频通话应用程序中的实时肖像分割和背景模糊依赖于轻量级可分离主干。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
深度可分离卷积实践
安全摄像头和无人机中的设备上对象检测，其中功率和计算都有限。
安全摄像头和无人机中的设备上对象检测（功率和计算均有限） 团队在预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
深度可分离卷积实践
Xception 大规模应用它们来提高 ImageNet 的准确性，同时控制参数计数。
Xception 大规模应用它们来提高 ImageNet 的准确性，同时控制参数计数。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
优化一项基准测试可以隐藏更广泛的系统弱点。
基础设施和维护成本常常被低估。
随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
实施路线图
在实施之前定义延迟、质量和成本目标。
在实施之前定义延迟、质量和成本目标。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
在实际负载和数据条件下进行基准测试。
在实际负载和数据条件下进行基准测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
仪器监控错误、漂移和用户影响。
仪器监控错误、漂移和用户影响。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
在扩展之前准备回滚和事件响应路径。
在扩展之前准备回滚和事件响应路径。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。