What is Human Preference Model? Definition | AI Understanding

定义

一个根据人类排名进行训练的模型，用于预测用户可能更喜欢哪些响应。

相关术语

根据人类反馈进行强化学习 (RLHF)

一种使用人类偏好信号来塑造模型行为的训练方法。

人类审查、指导或覆盖人工智能输出的工作流程。

AGI（通用人工智能）

一个假设的人工智能系统，可以在许多领域以人类水平执行大多数智力任务。

人工智能对齐

让人工智能系统按照人类意图、价值观和安全约束行事的工作。

人工智能系统的逻辑、数据源和局限性的记录和理解有多清晰。

人工添加的标签或元数据用于训练或评估机器学习模型。

在我们的免费指南中了解更多信息

AI Models Explained Model Collapse Model Lifecycle Human-AI Collaboration

参见

Guarded Decoding Inference Endpoint Groundedness Knowledge Base Feature Store Latent Space Eval Harness Model Registry

浏览完整的人工智能术语表探索所有免费的人工智能指南