AI用語集の用語

勾配降下法とは？

定義

誤差が少なくなる方向にパラメータを更新する最適化手法。

AI 用語集の全文を閲覧するすべての無料 AI ガイドを確認する

関連用語

DPO (直接優先最適化)別の報酬モデルを必要とせずに、好みのペアに基づいてモデルを直接微調整するトレーニング方法。グラデーション損失を減らすために各パラメータをどの程度変更する必要があるかを示すベクトル。バックプロパゲーションネットワークを通じて予測誤差を逆方向に伝播することによってモデルの重みを更新するコア トレーニング アルゴリズム。バイアスデータまたはモデルの動作におけるエラーまたは不公平性の一貫したパターン。ラベルのスムージング一般化を改善するためにハードラベルを柔らかくする正則化方法。学習率各更新ステップでパラメータがどの程度変更されるかを制御するトレーニング ハイパーパラメータ。

無料ガイドで詳細をご覧ください

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

こちらも参照

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling