什麼是根據人類回饋進行強化學習 (RLHF)？定義 | AI Understanding

定義

一種使用人類偏好訊號來塑造模型行為的訓練方法。

相關術語

透過獎勵訊號進行訓練，代理學習能夠最大化長期回報的行動。

一種根據偏好訊號對輸出進行評分的模型，通常用於 RLHF 管道。

DPO（直接偏好優化）

一種直接在偏好對上微調模型的訓練方法，無需單獨的獎勵模型。

讓模型不斷從新資料中學習而不忘記先驗知識的訓練方法。

少樣本學習

僅從少量範例中學習或適應行為。

由於現實條件與訓練假設存在差異，表現會隨著時間的推移而下降。

在我們的免費指南中了解更多信息

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

參見

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

瀏覽完整的人工智慧術語表探索所有免費的人工智慧指南