What is Learning Rate? Definition | AI Understanding

定义

训练超参数控制每个更新步骤的参数变化量。

相关术语

一个向量，显示每个参数应改变多少以减少损失。

训练前设置的配置值，例如学习率、批量大小或深度。

模型在训练集之外的新的、未见过的数据上的表现如何。

参数高效微调 (PEFT)

通过训练一小部分添加参数来调整模型的方法。

一种解码算法，在每一步中保留前几个候选序列以找到更高概率的输出。

量化训练期间预测误差的数学目标。

在我们的免费指南中了解更多信息

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

参见

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

浏览完整的人工智能术语表探索所有免费的人工智能指南