什么是梯度下降？定义 | AI Understanding

定义

一种向减少误差的方向更新参数的优化方法。

相关术语

DPO（直接偏好优化）

一种直接在偏好对上微调模型的训练方法，无需单独的奖励模型。

一个向量，显示每个参数应改变多少以减少损失。

核心训练算法通过网络向后传播预测误差来更新模型权重。

数据或模型行为中一致的错误或不公平模式。

一种软化硬标签以提高泛化能力的正则化方法。

训练超参数控制每个更新步骤的参数变化量。

在我们的免费指南中了解更多信息

Gradient Accumulation Stochastic Gradient Descent with Momentum Nesterov Accelerated Gradient Vanishing and Exploding Gradients

参见

Ground Truth Generative AI Guardrails Generalization Hallucination GAN (Generative Adversarial Network)Human-in-the-Loop Function Calling

浏览完整的人工智能术语表探索所有免费的人工智能指南