What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

定义

一种使用人类偏好信号来塑造模型行为的训练方法。

相关术语

通过奖励信号进行训练，代理学习能够最大化长期回报的行动。

一种根据偏好信号对输出进行评分的模型，通常用于 RLHF 管道。

DPO（直接偏好优化）

一种直接在偏好对上微调模型的训练方法，无需单独的奖励模型。

让模型不断从新数据中学习而不忘记先验知识的训练方法。

少样本学习

仅从少量示例中学习或适应行为。

由于现实条件与训练假设存在差异，性能会随着时间的推移而下降。

在我们的免费指南中了解更多信息

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

参见

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

浏览完整的人工智能术语表探索所有免费的人工智能指南