什么是 BPE（字节对编码）?

将文本拆分为模型输入标记的过程。

将图像或扫描中的文本转换为机器可读文本的技术。

仅从 k 个最有可能的下一个标记中采样的解码策略。

核心训练算法通过网络向后传播预测误差来更新模型权重。

一种将查询和文档编码为单独向量的模型，以便可以快速大规模地比较它们。

一种解码算法，在每一步中保留前几个候选序列以找到更高概率的输出。