人工智能术语

什么是BPE（字节对编码）？

定义

一种子词标记化算法，将最常见的字符对合并为可重用的标记。

浏览完整的人工智能术语表探索所有免费的人工智能指南

相关术语

代币化将文本拆分为模型输入标记的过程。OCR（光学字符识别）将图像或扫描中的文本转换为机器可读文本的技术。Top-k 采样仅从 k 个最有可能的下一个标记中采样的解码策略。反向传播核心训练算法通过网络向后传播预测误差来更新模型权重。双编码器一种将查询和文档编码为单独向量的模型，以便可以快速大规模地比较它们。波束搜索一种解码算法，在每一步中保留前几个候选序列以找到更高概率的输出。

在我们的免费指南中了解更多信息

ByteDance DoubaoCycleGAN Unpaired TranslationTokenizer-Free Byte-Level ModelsInstant-NGP Hash Encoding

参见

Sliding Window AttentionSentencePieceALiBiANN (Approximate Nearest Neighbor)RoPE (Rotary Positional Embeddings)HNSWPositional EncodingReranker