学习新闻工具职位使命

人工智能术语

什么是根据人类反馈进行强化学习 (RLHF)？

定义

一种使用人类偏好信号来塑造模型行为的训练方法。

浏览完整的人工智能术语表探索所有免费的人工智能指南

强化学习通过奖励信号进行训练，代理学习能够最大化长期回报的行动。奖励模式一种根据偏好信号对输出进行评分的模型，通常用于 RLHF 管道。DPO（直接偏好优化）一种直接在偏好对上微调模型的训练方法，无需单独的奖励模型。持续学习让模型不断从新数据中学习而不忘记先验知识的训练方法。少样本学习仅从少量示例中学习或适应行为。模型漂移由于现实条件与训练假设存在差异，性能会随着时间的推移而下降。

在我们的免费指南中了解更多信息

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

参见

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law