什麼是 獎勵模式?

一種使用人類偏好訊號來塑造模型行為的訓練方法。

透過獎勵訊號進行訓練，代理學習能夠最大化長期回報的行動。

用於訓練或評估模型輸出的可信參考標籤。

一種直接在偏好對上微調模型的訓練方法，無需單獨的獎勵模型。

預訓練和訓練後之間的中間訓練階段，通常用於能力或領域調整。

一種可以觀察、推理並採取行動來實現目標的軟體系統，通常使用工具和記憶體。