AGI（通用人工智能）
一个假设的人工智能系统，可以在许多领域以人类水平执行大多数智力任务。
Free AI glossary
人工智能术语表
Plain-language definitions of the AI terms you keep hearing — for students, professionals, and anyone curious about how AI works.
213条款A–Z搜索 + 字母过滤器100%简单语言定义
A3 条款
B1 term
BPE（字节对编码）
一种子词标记化算法，将最常见的字符对合并为可重用的标记。
D1 term
DPO（直接偏好优化）
一种直接在偏好对上微调模型的训练方法，无需单独的奖励模型。
G2 条款
GAN（生成对抗网络）
生成器和鉴别器相互训练的生成设置。
GSM8K
小学数学应用题的基准，用于评估语言模型中的逐步推理。
K1 term
KV缓存
存储来自先前令牌的键和值张量，使 Transformer 可以生成新令牌而无需重新计算过去的注意力。
L1 term
LoRA（低阶适应）
一种添加低秩适配器矩阵的参数高效微调方法。
M2 条款
MCP（模型上下文协议）
一种开放协议，允许人工智能应用程序以标准方式连接到外部工具、数据源和上下文提供者。
MMLU
使用多项选择题测试跨 57 个学术和专业科目的语言模型的基准测试。
O1 term
OCR（光学字符识别）
将图像或扫描中的文本转换为机器可读文本的技术。
P2 条款
Perplexity
一种语言模型指标，衡量模型对真正的下一个标记的惊讶程度。
Prompt Engineering
设计提示以提高输出质量、可靠性和可控性。
Q1 term
QLoRA
一种微调技术，将 4 位权重量化与 LoRA 适配器相结合，以减少内存需求。
R3 条款
RAG-融合
一种检索方法，可生成多个查询变体、检索每个查询变体的结果并融合排名。
RAG（检索增强生成）
一种检索外部知识并在推理时将其输入生成的方法。
RoPE（旋转位置嵌入）
一种位置编码方法，可旋转查询向量和键向量以对相对标记位置进行编码。
T2 条款
Top-k 采样
仅从 k 个最有可能的下一个标记中采样的解码策略。
Top-p（核）采样
一种解码策略，从概率总和为 p 的最小标记集中进行采样。
X1 term
XAI（可解释的人工智能）
使人工智能预测更加透明和易于理解的技术和实践。
上1 term
上下文窗口
语言模型一次可以处理的输入标记的最大数量。
事1 term
事实性
模型的主张与可验证的现实世界信息的匹配程度如何。
交2 条款
人9 条款
人在环
人类审查、指导或覆盖人工智能输出的工作流程。
人工智能（AI）
构建执行需要模式识别、推理、语言或决策的任务的系统的广泛领域。
人工智能代理
一种可以观察、推理并采取行动来实现目标的软件系统，通常使用工具和内存。
人工智能安全
该领域专注于减少人工智能系统中的有害行为、故障和误用风险。
人工智能对齐
让人工智能系统按照人类意图、价值观和安全约束行事的工作。
人工智能治理
指导人工智能如何在社会中开发和使用的政策、标准和监督机制。
人工智能法案
欧盟针对人工智能系统和提供商的基于风险的监管框架。
人类偏好模型
一个根据人类排名进行训练的模型，用于预测用户可能更喜欢哪些响应。
人类评估
Python 编程问题的基准，用于通过单元测试衡量代码生成的正确性。
代4 条款
位1 term
位置编码
添加到标记嵌入的信息，以便转换器可以区分序列顺序。
保1 term
保护解码
将输出代币限制为有效结构或符合策略的选择的生成策略。
信1 term
信任校准
将用户对人工智能输出的信心与系统在每项任务中的实际可靠性结合起来。
修1 term
修剪
删除不太重要的模型权重或神经元以减小尺寸和计算量。
假1 term
假阴性
模型错过真正的阳性案例的错误预测。
偏1 term
偏差
数据或模型行为中一致的错误或不公平模式。
内1 term
内存（代理内存）
AI 代理跨步骤或会话使用存储的上下文来提高连续性。
决2 条款
出1 term
出席处罚
一种解码设置，可降低令牌出现的概率，从而鼓励新主题。
函1 term
函数调用
生成触发外部工具或 API 的结构化调用的模型功能。
分2 条款
剪1 term
剪辑
一种学习文本和图像之间共享表示的多模态模型架构。
卷1 term
卷积神经网络（CNN）
一种针对处理图像等网格数据而优化的神经架构。
参2 条款
参数
模型中学习到的权重会影响其输出。
参数高效微调 (PEFT)
通过训练一小部分添加参数来调整模型的方法。
及1 term
及时注射
一种攻击模式，其中恶意指令被插入到模型输入或检索的内容中。
双1 term
双编码器
一种将查询和文档编码为单独向量的模型，以便可以快速大规模地比较它们。
反2 条款
变1 term
变压器
一种神经架构，利用注意力并行地对序列之间的关系进行建模。
句1 term
句子片段
一种与语言无关的分词器，可以直接从原始文本中学习子词单元，而无需在空格上进行预分割。
召1 term
召回
模型正确识别的实际阳性的比例。
可1 term
可解释性
模型的行为可以被解释和解释给人类的程度。
合1 term
合奏团
结合多个模型的预测以提高鲁棒性或准确性。
命1 term
命名实体识别 (NER)
识别人物、地点、日期或组织等实体的 NLP 任务。
因1 term
因果推理
估计因果关系而不是简单相关性的方法。
地1 term
地面真相
用于训练或评估模型输出的可信参考标签。
型1 term
型号卡
描述模型的预期用途、指标、限制和风险的文档。
培1 term
培训后
预训练后应用的训练步骤，例如指令调整、偏好优化和安全调整。
基5 条款
多3 条款
大2 条款
大数据
非常大且复杂的数据集，需要可扩展的存储和处理技术。
大语言模型（LLM）
在海量文本语料库上训练来生成和分析文本的语言模型。
奖1 term
奖励模式
一种根据偏好信号对输出进行评分的模型，通常用于 RLHF 管道。
学1 term
学习率
训练超参数控制每个更新步骤的参数变化量。
安2 条款
宪1 term
宪法人工智能
一种训练和行为塑造方法，其中模型输出由一组固定的书面原则指导。
小1 term
小语言模型 (SLM)
一种紧凑的语言模型，针对较低的延迟、成本或设备上的使用情况进行了优化。
少1 term
少样本学习
仅从少量示例中学习或适应行为。
嵌2 条款
工1 term
工具使用
模型调用外部工具（例如搜索、计算器或 API）的能力。
差1 term
差异隐私
一种隐私技术，会增加统计噪声，因此无法从输出中可靠地推断出单个记录。
幻1 term
幻觉
当模型生成流畅但错误或不受支持的信息时。
延1 term
延迟
发送请求和接收模型输出之间的时间。
开1 term
开源模型
使用公共权重或代码发布的模型，用于检查、调整和重用。
引1 term
引文
对模型响应中包含的源段落或文档的引用，以支持其主张。
强1 term
强化学习
通过奖励信号进行训练，代理学习能够最大化长期回报的行动。
影1 term
影子部署
与生产流量并行运行模型，不会影响面向用户的决策。
微1 term
微调
对特定领域的数据进行持续训练，以使预先训练的模型适应特定任务。
思2 条款
情2 条款
意1 term
意图分类
根据文本查询预测用户的目的以正确路由。
扩1 term
扩散模型
一种生成架构，可以学习反转噪声以合成图像、音频或其他内容。
护1 term
护栏
限制不安全或不需要的模型行为的规则、检查和控制。
持1 term
持续学习
让模型不断从新数据中学习而不忘记先验知识的训练方法。
指1 term
指令调优
微调指令-响应对的模型以改善任务跟踪。
损1 term
损失函数
量化训练期间预测误差的数学目标。
接1 term
接地气
人工智能响应得到源数据或检索到的证据支持的程度。
推5 条款
提1 term
提示模板
具有变量、格式规则和特定于任务的指令的可重用提示模式。
数6 条款
新1 term
新南威尔士州
基于图的索引结构，用于高维向量上的快速近似最近邻搜索。
无1 term
无监督学习
从没有明确目标输出的未标记数据中学习模式。
机1 term
机器学习（ML）
允许系统从数据中学习模式并随着时间的推移进行改进的方法。
标2 条款
校1 term
校准
模型的置信度得分与实际正确性概率的匹配程度。
根1 term
根据人类反馈进行强化学习 (RLHF)
一种使用人类偏好信号来塑造模型行为的训练方法。
梯1 term
梯度下降
一种向减少误差的方向更新参数的优化方法。
检2 条款
概1 term
概括
模型在训练集之外的新的、未见过的数据上的表现如何。
模3 条款
水1 term
水印
在人工智能生成的文本或媒体中嵌入可检测信号，以便稍后将其识别为机器生成的。
法1 term
法学硕士法官
在评估过程中使用语言模型对其他模型的输出进行评分或比较。
波1 term
波束搜索
一种解码算法，在每一步中保留前几个候选序列以找到更高概率的输出。
注2 条款
测1 term
测试时计算
在响应生成期间使用额外的推理计算来提高质量或推理。
深1 term
深度学习
机器学习的一个子集，使用多层神经网络进行表示学习。
混2 条款
混合专家 (MoE)
具有专门子网络的架构，其中每个输入仅运行选定的专家。
混合搜索
一种检索方法，将关键字（词汇）搜索与矢量（语义）搜索相结合，以提高召回率和精度。
渐1 term
渐变
一个向量，显示每个参数应改变多少以减少损失。
温1 term
温度
控制生成输出中的随机性的采样设置。
滑1 term
滑动窗口注意
一种注意模式，其中每个令牌仅关注附近令牌的固定大小窗口以减少计算。
潜1 term
潜在空间
压缩的表示空间，其中相似的概念作为向量彼此靠近。
父1 term
父文档检索
一种检索模式，搜索小块但返回其较大的父文档以获得更丰富的上下文。
特4 条款
生1 term
生成式 AI
生成文本、图像、音频、视频或代码等新内容的人工智能系统。
监2 条款
矢1 term
矢量数据库
针对存储和查询高维嵌入向量而优化的数据库。
知4 条款
神1 term
神经网络
受生物神经元和突触启发的分层计算模型。
稀1 term
稀疏模型
许多参数为零或不活动以减少计算的模型。
稳1 term
稳健性
模型在噪声、变化或对抗性输入下保持性能的能力。
算3 条款
管1 term
管道
预处理、模型步骤和后处理阶段的有序工作流程。
精1 term
精度
实际正确的预测阳性的比例。
系1 term
系统提示
为模型设置行为、策略和响应方式的高优先级指令。
红1 term
红队
使用对抗性提示对人工智能系统进行压力测试，以揭示失败和风险。
结2 条款
综1 term
综合数据
用于增强、模拟或保护敏感训练数据的人工生成的数据。
编1 term
编码器
将输入转换为潜在表示的模型组件。
缩1 term
缩放定律
一种经验关系，显示性能如何随模型大小、数据或计算而提高。
置1 term
置信区间
可能包含测量模型指标的真实值的统计范围。
自4 条款
自我监督学习
通过预测屏蔽或变换的部分来学习未标记数据的表示。
自治系统
一种可以在有限或没有直接人类控制的情况下实时做出决策和采取行动的系统。
自然语言处理（NLP）
人工智能的分支专注于理解和生成人类语言。
自玩
一种训练设置，模型通过与自身副本的交互或竞争生成数据来改进。
蒸2 条款
视1 term
视觉语言模型 (VLM)
联合处理视觉和文本信息的多模态模型。
计2 条款
训2 条款
设1 term
设备上的人工智能
人工智能推理在用户硬件上本地执行，而不是在远程云服务中执行。
评2 条款
词1 term
词嵌入
捕获语义关系的单词的密集向量表示。
语1 term
语义搜索
通常使用嵌入来匹配含义而不是精确关键字重叠的搜索。
误1 term
误报
模型错误地将负面案例标记为正面的错误预测。
超1 term
超参数
训练前设置的配置值，例如学习率、批量大小或深度。
越1 term
越狱
一种旨在绕过模型安全约束的提示技术。
输1 term
输出解析器
验证模型输出并将其转换为强类型、机器可用结构的逻辑。
迁1 term
迁移学习
应用在一项任务或领域中学到的知识来改进另一项任务。
迅1 term
迅速的
提供给生成模型的输入指令和上下文。
过1 term
过拟合
当模型记住训练数据并在未见过的输入上表现不佳时。
通1 term
通过@k
一种代码评估指标，用于衡量 k 个生成的样本中至少有一个通过测试的机会。
重3 条款
量1 term
量化
将模型权重转换为较低精度的格式，例如 8 位或 4 位。
铝1 term
铝锂
一种位置偏差方法，根据标记距离惩罚注意力分数，帮助模型推断更长的上下文。
闪1 term
闪光注意
一种优化的注意力算法，可减少内存使用并加速 Transformer 训练和推理。
零2 条款
预1 term
预训练
在下游适应之前对广泛数据进行初始大规模模型训练。
领1 term
领域适应
将在一个领域训练的模型转移到另一个领域以更好地执行的方法。
频1 term
频率惩罚
一种解码设置，可根据令牌迄今为止出现的频率成比例地降低令牌的概率。
验1 term
验证集
开发过程中用于调整模型并防止过度拟合的数据集。
黑1 term
黑盒模型
其内部推理难以由人类直接解释的模型。