とは何ですか トレーニング中期?

事前トレーニング後に適用されるトレーニング ステップ (命令調整、設定の最適化、安全性調整など)。

トレーニング、検証、テストに使用される構造化サンプルまたは非構造化サンプルのコレクション。

トレーニング後にモデルの品質を測定するために使用される保持されたデータセット。

ドメイン固有のデータに対するトレーニングを継続して、事前トレーニングされたモデルを特定のタスクに適応させます。

下流の適応の前に、広範なデータに対する初期の大規模モデルのトレーニング。

RLHF パイプラインでよく使用される、優先信号に基づいて出力をスコアリングするモデル。