什么是反向传播？

量化训练期间预测误差的数学目标。

一个学习的数值，用于缩放通过神经网络的信号。

一种优化的注意力算法，可减少内存使用并加速 Transformer 训练和推理。

一种训练设置，模型通过与自身副本的交互或竞争生成数据来改进。

当训练数据中存在基准测试示例或相近变体时，会夸大报告的性能。

一种子词标记化算法，将最常见的字符对合并为可重用的标记。