概述
It uses the discrete value on the forward pass but pretends the operation was the identity when computing gradients.
深入探讨
某些操作（例如舍入为整数、将权重二值化为 +1/-1 或使用 argmax 选择顶部类别）的导数几乎在任何地方都为零并且在跳转时未定义。零梯度停止学习冷。直通估计器通过解耦前向和后向传递来回避这个问题：向前，它应用真正的硬操作；向后，它只是直接复制传入的梯度，就好像该操作是身份（或平滑代理）一样。这个估计是有偏差的，因为真实的梯度确实为零，但在实践中，这种“假装它是平滑的”近似可以很好地训练二值化和量化网络，这就是为什么 STE 是高效深度学习的主力。
现实世界的实施
训练二进制和低位量化神经网络，以便在手机和边缘设备上进行高效推理。
通过 VQ-VAE 和神经音频/图像标记器中的离散码本查找进行反向传播。
量化感知训练，其中权重或激活在前向传递过程中舍入为定点。
学习硬注意力或离散门控，其中 argmax 或阈值位于计算路径中。
直通式估计器的未来
STE 支撑了设备上和能量受限人工智能所追求的低位和二进制神经网络的激增，并且它对于训练矢量量化模型（如现代图像和音频分词器中使用的模型）至关重要。正在进行的工作寻求更严格、偏差更小的梯度估计器，以及对为什么这种粗略近似有效的更好的理论理解。随着手机和边缘硬件对微型、快速、量化模型的需求不断增长，预计 STE 风格的技巧将仍然是基础，尽管它们存在已知的偏见。
付诸实践
为什么这很重要
- 成本与预算. 多年来，架构决策决定着性能和运营成本。
- 更清晰的判决. 技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
- 质量控制. 更好的工程选择可以减少生产中的可靠性事故。
留意
- 优化一项基准测试可以隐藏更广泛的系统弱点。
- 基础设施和维护成本常常被低估。
- 随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
后续步骤
- 在实施之前定义延迟、质量和成本目标。
- 在实际负载和数据条件下进行基准测试。
- 仪器监控错误、漂移和用户影响。
- 在扩展之前准备回滚和事件响应路径。
不断探索
常见问题
What is Straight-Through Estimator?
直通估计器 (STE) 是一个简单的技巧，用于训练包含舍入或阈值化等难以微分的步骤的网络。它在前向传递中使用离散值，但在计算梯度时假装该操作是恒等式。
How does the straight-through estimator handle a hard operation?
The guide describes a hard forward pass and a surrogate backward pass.
Why can rounding block ordinary gradient descent?
The guide says hard rounding has a zero or undefined derivative that can stop learning.
What is the bias of a straight-through gradient estimate?
The guide explicitly notes that the approximation is biased.
Which example can use an STE?
The guide names quantization and rounding as common applications.
What does `x + stop_gradient(hard(x) - x)` achieve conceptually?
The guide gives this pattern to preserve the hard value while passing the identity gradient.