概述
在現代人工智慧中,它支援獎勵模型,從「哪個答案更好?」中學習人類的偏好。標籤,RLHF 的支柱。
深入探討
Bradley-Terry 於 1952 年提出,假設每個項目都有一個隱藏的強度得分,並且項目 A 擊敗項目 B 的機率是它們得分差異的邏輯函數。在人工智慧對齊中,這巧妙地映射到偏好數據:人類貼標籤者看到兩個模型響應並選擇更好的一個,而不是給出難以校準的絕對評級。獎勵模型(通常是具有標量輸出頭的語言模型)經過訓練,以便人類首選的反應獲得更高的標量獎勵。損失是 Bradley-Terry 機率的負對數似然:最大化(選擇的獎勵減去拒絕的獎勵)的對數 sigmoid。然後,產生的獎勵模型對任意輸出進行評分,提供 PPO 等強化學習演算法最佳化的訊號,使模型更有幫助且更一致。
現實世界的實施
在 RLHF 中訓練獎勵模型,對兩個聊天機器人的反應進行排名,並向 PPO 微調提供更好或更差的訊號。
直接偏好優化使用 Bradley-Terry log-sigmoid 損失直接在選擇與拒絕的答案對上微調模型。
透過 Elo 對國際象棋或電子競技選手進行排名,這在數學上與比賽結果的 Bradley-Terry 模型非常接近。
根據「用戶喜歡 A 而不是 B」的點擊數據而不是絕對星級來建立內容推薦排名。
Bradley-Terry 獎勵模型的未來
布拉德利-特里假設有一個一致的排名和傳遞偏好,當人們意見不一致或偏好循環時,它就會崩潰。研究正在轉向捕捉偏好分佈、多維獎勵(幫助、安全、誠實分別評分)的模型,以及像納許這樣從人類回饋中學習的方法,這些方法放棄了單分假設。 DPO 及其變體越來越多地將 Bradley-Terry 目標直接納入政策培訓。期望更豐富的比較方案,包括兩個以上項目的排名和置信加權偏好,以減少獎勵駭客行為。
付諸實踐
為什麼這很重要
- 更明確的決策. 它可以幫助您將清晰的技術聲明與行銷語言分開。
- 成本與預算. 在花費金錢或時間之前,您可以提出更好的實施問題。
- 團隊與工作流程. 具有共同理解的團隊可以做出更好的產品、政策和學習決策。
留意
- 不同的團隊可能會以不同的方式使用相同術語,因此請儘早定義範圍。
- 基準測試可能看起來很強大,但實際效能卻參差不齊。
- 忽視數據品質和評估計劃通常會產生脆弱的結果。
後續步驟
- 從您需要的結果的簡單語言定義開始。
- 在測試之前選擇一種成功指標和一種失敗條件。
- 使用代表性資料運行小型試點,而不是完善的演示集。
- 記錄 Bradley-Terry 獎勵模型在哪些方面有幫助以及在哪些方面更簡單的方法更好。
不斷探索
常見問題
什麼是布拉德利-特里獎勵模型?
Bradley-Terry 模型是一種具有百年歷史的統計方法,用於將成對比較(A 擊敗 B)轉換為數字分數。在現代人工智慧中,它支援獎勵模型,從「哪個答案更好?」中學習人類的偏好。標籤,RLHF 的支柱。
Bradley-Terry 模型將什麼轉換為數字分數?
Bradley-Terry 進行成對「A 擊敗 B」比較,並推斷出每個項目的隱藏強度分數,這就是為什麼它如此適合人類偏好標籤的原因。
在 Bradley-Terry 中,A 擊敗 B 的機率是什麼函數?
該模型將 P(A 擊敗 B) 設定為等於 A 和 B 的隱藏強度分數之間差異的邏輯(S 形)。
為什麼布拉德利-特里獎勵只能在加性常數範圍內辨識?
訓練損失僅使用選擇的獎勵和拒絕的獎勵之間的差異,因此將所有分數移動相同的常數使損失保持不變;絕對比例是任意的。
獎勵模型中單一偏好比較的標準損失是多少?
Bradley-Terry 負對數似然減少為選擇減去拒絕獎勵差異的負對數 sigmoid,從而將所選回應的獎勵推高。
哪種方法透過直接在策略上優化 Bradley-Terry 目標來跳過單獨的獎勵模型?
DPO 重新制定了 Bradley-Terry 偏好目標,使其可以直接應用於政策模型,從而無需訓練和查詢獨立的獎勵模型。