什么是 多头注意力?

一种神经架构，利用注意力并行地对序列之间的关系进行建模。

一种检索技术，将用户查询重写为多个变体以提高召回率。

生成输出时动态关注输入的相关部分的模型组件。

一种优化的注意力算法，可减少内存使用并加速 Transformer 训练和推理。

可以处理或生成文本、图像和音频等多种数据类型的模型。

用于推理或检索的实体和关系的图形结构。