跳至内容
学习
新闻
工具
职位
使命
搜索
⌘K
English
捐赠
菜单
从这里开始
开始学习
学习
前往 学习
课程
指南
AI 导师
提示库
测验
认证
术语表
新闻
前往 新闻
最新人工智能新闻
主题跟踪器
研究和数据集
博客
编辑准则
更正说明
工具
前往 工具
工具目录
最佳名单
比较工具
成本计算器
快速精炼机
提交工具
职位
前往 职位
浏览人工智能职位
发布职位
赞助美亚保险
使命
前往 使命
使命
影响和统计
作者
帮助中心
有什么新消息
支持
捐赠
首页
/
词汇表
/
位置编码
人工智能术语
什么是
位置编码
?
定义
添加到标记嵌入的信息,以便转换器可以区分序列顺序。
相关术语
RoPE(旋转位置嵌入)
一种位置编码方法,可旋转查询向量和键向量以对相对标记位置进行编码。
铝锂
一种位置偏差方法,根据标记距离惩罚注意力分数,帮助模型推断更长的上下文。
参数高效微调 (PEFT)
通过训练一小部分添加参数来调整模型的方法。
AGI(通用人工智能)
一个假设的人工智能系统,可以在许多领域以人类水平执行大多数智力任务。
人工智能代理
一种可以观察、推理并采取行动来实现目标的软件系统,通常使用工具和内存。
注释
人工添加的标签或元数据用于训练或评估机器学习模型。
在我们的免费指南中了解更多信息
Positional Interpolation for Long Context
Instant-NGP Hash Encoding
Byte-Pair Encoding
Tokenization and Byte Pair Encoding
参见
Multi-Head Attention
Flash Attention
QLoRA
Sliding Window Attention
DPO (Direct Preference Optimization)
BPE (Byte Pair Encoding)
Tree of Thoughts
SentencePiece
Previous
Multi-Head Attention
Next
RoPE (Rotary Positional Embeddings)
浏览完整的人工智能术语表
探索所有免费的人工智能指南