布拉德利-特里獎勵模型
Bradley-Terry 模型是一種具有百年歷史的統計方法，用於將成對比較（A 擊敗 B）轉換為數字分數。
概述
In modern AI it powers reward models that learn human preferences from 'which answer is better?' labels, the backbone of RLHF.
深入探討
Bradley-Terry 於 1952 年提出，假設每個項目都有一個隱藏的強度得分，並且項目 A 擊敗項目 B 的機率是它們得分差異的邏輯函數。在人工智慧對齊中，這巧妙地映射到偏好數據：人類貼標籤者看到兩個模型響應並選擇更好的一個，而不是給出難以校準的絕對評級。獎勵模型（通常是具有標量輸出頭的語言模型）經過訓練，以便人類首選的反應獲得更高的標量獎勵。損失是 Bradley-Terry 機率的負對數似然：最大化（選擇的獎勵減去拒絕的獎勵）的對數 sigmoid。然後，產生的獎勵模型對任意輸出進行評分，提供 PPO 等強化學習演算法最佳化的訊號，使模型更有幫助且更一致。
技術洞察
比較的訓練損失只是減去 (r_chosen − r_rejected) 的 log-sigmoid，因此模型只學習相對差異。這意味著獎勵只能在累加常數範圍內辨識；絕對比例是任意的。由於對人類來說，比較比 1 到 10 的分數更容易且更一致，因此 Bradley-Terry 數據的噪音較小。直接偏好優化稍後表明您可以跳過單獨的獎勵模型並直接在策略上優化 Bradley-Terry 目標。
戰略影響
更明確的決策
它可以幫助您將清晰的技術聲明與行銷語言分開。
成本與預算
在花費金錢或時間之前，您可以提出更好的實施問題。
團隊與工作流程
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
Bradley-Terry 獎勵模型的未來
布拉德利-特里假設有一個一致的排名和傳遞偏好，當人們意見不一致或偏好循環時，它就會崩潰。研究正在轉向捕捉偏好分佈、多維獎勵（幫助、安全、誠實分別評分）的模型，以及像納許這樣從人類回饋中學習的方法，這些方法放棄了單分假設。 DPO 及其變體越來越多地將 Bradley-Terry 目標直接納入政策培訓。期望更豐富的比較方案，包括兩個以上項目的排名和置信加權偏好，以減少獎勵駭客行為。
現實世界的實施
在 RLHF 中訓練獎勵模型，對兩個聊天機器人的反應進行排名，並向 PPO 微調提供更好或更差的訊號。
直接偏好優化使用 Bradley-Terry log-sigmoid 損失直接在選擇與拒絕的答案對上微調模型。
透過 Elo 對國際象棋或電子競技選手進行排名，這在數學上與比賽結果的 Bradley-Terry 模型非常接近。
根據「用戶喜歡 A 而不是 B」的點擊數據而不是絕對星級來建立內容推薦排名。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
在測試之前選擇一種成功指標和一種失敗條件。
使用代表性資料運行小型試點，而不是完善的演示集。
記錄 Bradley-Terry 獎勵模型在哪些方面有幫助以及在哪些方面更簡單的方法更好。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Bradley-Terry Reward Modeling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Bradley-Terry Reward Modeling?
Bradley-Terry 模型是一種具有百年歷史的統計方法，用於將成對比較（A 擊敗 B）轉換為數字分數。在現代人工智慧中，它支援獎勵模型，從「哪個答案更好？」中學習人類的偏好。標籤，RLHF 的支柱。
Bradley-Terry 模型將什麼轉換為數字分數？
Bradley-Terry 進行成對「A 擊敗 B」比較，並推斷出每個項目的隱藏強度分數，這就是為什麼它如此適合人類偏好標籤的原因。
在 Bradley-Terry 中，A 擊敗 B 的機率是什麼函數？
該模型將 P(A 擊敗 B) 設定為等於 A 和 B 的隱藏強度分數之間差異的邏輯（S 形）。
為什麼布拉德利-特里獎勵只能在加性常數範圍內辨識？
訓練損失僅使用選擇的獎勵和拒絕的獎勵之間的差異，因此將所有分數移動相同的常數使損失保持不變；絕對比例是任意的。
獎勵模型中單一偏好比較的標準損失是多少？
Bradley-Terry 負對數似然減少為選擇減去拒絕獎勵差異的負對數 sigmoid，從而將所選回應的獎勵推高。
哪種方法透過直接在策略上優化 Bradley-Terry 目標來跳過單獨的獎勵模型？
DPO 重新制定了 Bradley-Terry 偏好目標，使其可以直接應用於政策模型，從而無需訓練和查詢獨立的獎勵模型。