学ぶニュースツール求人使命

AI用語集の用語

学習率とは？

定義

各更新ステップでパラメータがどの程度変更されるかを制御するトレーニングハイパーパラメータ。

AI 用語集の全文を閲覧するすべての無料 AI ガイドを確認する

グラデーション損失を減らすために各パラメータをどの程度変更する必要があるかを示すベクトル。ハイパーパラメータ学習率、バッチサイズ、深度など、トレーニング前に設定される構成値。一般化トレーニングセットの外にある新しい未確認のデータに対してモデルがどの程度うまく機能するか。パラメータ効率の良い微調整 (PEFT)追加されたパラメーターの小さなサブセットをトレーニングすることでモデルを適応させる方法。ビームサーチより確率の高い出力を見つけるために、各ステップで上位のいくつかの候補シーケンスを保持するデコードアルゴリズム。損失関数トレーニング中の予測誤差を定量化する数学的目標。

無料ガイドで詳細をご覧ください

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

こちらも参照

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation