LoRA (低ランク適応)とは？

追加されたパラメーターの小さなサブセットをトレーニングすることでモデルを適応させる方法。

4 ビットの重み量子化と LoRA アダプターを組み合わせてメモリの必要性を削減する微調整手法。

ドメイン固有のデータに対するトレーニングを継続して、事前トレーニングされたモデルを特定のタスクに適応させます。

命令と応答のペアに基づいてモデルを微調整して、タスクの追跡を改善します。

別の報酬モデルを必要とせずに、好みのペアに基づいてモデルを直接微調整するトレーニング方法。

一般化を改善するためにハードラベルを柔らかくする正則化方法。