とは何ですか 報酬モデル?

人間の好みの信号を使用してモデルの動作を形成するトレーニング方法。

報酬によるトレーニングは、エージェントが長期的な利益を最大化するアクションを学習することを示します。

モデル出力のトレーニングまたは評価に使用される信頼できる参照ラベル。

別の報酬モデルを必要とせずに、好みのペアに基づいてモデルを直接微調整するトレーニング方法。

トレーニング前とトレーニング後の中間トレーニング段階。能力やドメインの調整によく使用されます。

目標を達成するために観察、推論、行動を起こすことができるソフトウェア システム。多くの場合ツールやメモリを使用します。