概要
ニューラル ネットワークの重みなどの学習済みパラメーターを生成します。トレーニングは、すでにトレーニングされたモデルに指示を与えることとは異なります。
主なポイント
- 目標とデータによってトレーニング タスクが定義されます。
- 評価をフィッティングやモデルの選択とは別にしてください。
- 前処理とデータのバージョンをモデルと一緒に保存します。
ディープダイブ
教師ありトレーニングの実行は、入力と目標の回答から始まります。モデルは答えを予測し、損失関数は不一致を測定し、最適化アルゴリズムはそのパラメーターを更新します。これをサンプルのバッチにわたって繰り返すと、損失を減らすことができます。エポックとは、トレーニング データセットを 1 回通過することを意味します。進歩を保証するものではありません。データセットと目的は、モデルが学習に対して何を報酬を受けるかを定義します。購入を予測するためにモデルをトレーニングすることは、顧客満足度を推定するためにモデルをトレーニングすることとは異なるタスクを教えます。便利なラベルは、重要な結果の代用としては不十分である可能性があります。検証例を使用して設定を選択し、選択したモデルを別のテスト セットで評価します。分割すると情報が漏洩する可能性がある場合は、同じ人物、文書、またはイベントに属する記録をまとめて保存します。予測の場合は、将来の観察を以前の予測に組み込むのではなく、後の期間で評価します。データのバージョン、前処理ルール、モデル構成、および各チェックポイントの評価結果を保存します。トークナイザーまたは特徴変換を行わずに保存されたモデルは、元の動作を再現しない可能性があります。トレーニングは、定義された実験に対してのみ完了します。結果をデプロイすると、監視と運用上の責任が追加されます。
04作業例
玩具モデルの 1 つのアップデート
例示的なモデルの予測 = 重み × 入力を使用し、入力 2、ターゲット 6、初期重み 1 を使用します。
二乗誤差は (2 − 6)² = 16 です。重みに関するその導関数は 2 × 2 × (2 − 6) = −16 です。
学習率 0.1 では、次の重みは 1 − 0.1 × (−16) = 2.6 です。新しい予測は 5.2、二乗誤差は 0.64 です。
それが示すもの
この構築された計算は、パラメーターの更新を示しています。改良された 1 つの例では、新しい例でのパフォーマンスが確立されていません。
現実世界の実装
ラベル付きのサポート リクエストに対して小さな分類子をトレーニングし、後の週にそれを評価します。
トレーニングされた需要予測を運用する前に、単純な先週のベースラインと比較します。
実践する
なぜそれが重要なのか
- より明確な判決. これは、明確な技術的主張とマーケティング言語を区別するのに役立ちます。
- 費用と予算. お金や時間を費やす前に、実装に関するより良い質問をすることができます。
- チームとワークフロー. 共通の理解を持ったチームは、製品、ポリシー、学習に関する意思決定をより適切に行うことができます。
気をつけてください
- チームが異なれば、同じ用語の使用方法も異なる可能性があるため、範囲を早めに定義してください。
- ベンチマークは好調に見えても、実際のパフォーマンスにはばらつきがある場合があります。
- データの品質と評価計画を無視すると、多くの場合、脆弱な結果が生じます。
次のステップ
- 必要な結果を平易な言葉で定義することから始めます。
- テストする前に、成功指標と失敗条件を 1 つ選択します。
- 洗練されたデモセットではなく、代表的なデータを使用して小規模なパイロットを実行します。
- AI トレーニングが役立つ部分と、よりシンプルな方法の方が優れている部分を文書化します。
出典とさらなる参考文献
- PyTorchモデルパラメータの最適化
探検を続けましょう
よくある質問
プロンプトを入力するとモデルがトレーニングされますか?
プロンプトによって現在のコンテキストが変更されます。それ自体は重みの更新を意味するものではありません。サービスが後でトレーニングにインタラクションを使用するかどうかは、その個別のデータ ポリシーによって異なります。