概述
Bradley-Terry 模型是一種具有百年歷史的統計方法，用於將成對比較（A 擊敗 B）轉換為數字分數。在現代人工智慧中，它支援獎勵模型，從「哪個答案更好？」中學習人類的偏好。標籤，RLHF 的支柱。
Bradley-Terry 獎勵模型位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
Bradley-Terry 於 1952 年提出，假設每個項目都有一個隱藏的強度得分，並且項目 A 擊敗項目 B 的機率是它們得分差異的邏輯函數。在人工智慧對齊中，這巧妙地映射到偏好數據：人類貼標籤者看到兩個模型響應並選擇更好的一個，而不是給出難以校準的絕對評級。獎勵模型（通常是具有標量輸出頭的語言模型）經過訓練，以便人類首選的反應獲得更高的標量獎勵。損失是 Bradley-Terry 機率的負對數似然：最大化（選擇的獎勵減去拒絕的獎勵）的對數 sigmoid。然後，產生的獎勵模型對任意輸出進行評分，提供 PPO 等強化學習演算法最佳化的訊號，使模型更有幫助且更一致。
技術洞察
比較的訓練損失只是減去 (r_chosen − r_rejected) 的 log-sigmoid，因此模型只學習相對差異。這意味著獎勵只能在累加常數範圍內辨識；絕對比例是任意的。由於對人類來說，比較比 1 到 10 的分數更容易且更一致，因此 Bradley-Terry 數據的噪音較小。直接偏好優化稍後表明您可以跳過單獨的獎勵模型並直接在策略上優化 Bradley-Terry 目標。
掌握 Bradley-Terry 獎勵模型
Bradley-Terry 模型是一種具有百年歷史的統計方法，用於將成對比較（A 擊敗 B）轉換為數字分數。在現代人工智慧中，它支援獎勵模型，從「哪個答案更好？」中學習人類的偏好。標籤，RLHF 的支柱。 Bradley-Terry 獎勵模型位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將 Bradley-Terry 獎勵模型視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地執行的操作與仍需要專家判斷的操作分開。
在實踐中，使用 Bradley-Terry 獎勵模型的強大團隊首先建立強大的概念模型，然後將這些模型對應到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
在 RLHF 中訓練獎勵模型，對兩個聊天機器人的反應進行排名，並向 PPO 微調提供更好或更差的訊號。
直接偏好優化使用 Bradley-Terry log-sigmoid 損失直接在選擇與拒絕的答案對上微調模型。
透過 Elo 對國際象棋或電子競技選手進行排名，這在數學上與比賽結果的 Bradley-Terry 模型非常接近。
根據「用戶喜歡 A 而不是 B」的點擊數據而不是絕對星級來建立內容推薦排名。
實施模式
Bradley-Terry 獎勵模型的實踐
在 RLHF 中訓練獎勵模型，對兩個聊天機器人的反應進行排名，並向 PPO 微調提供更好或更差的訊號。
在 RLHF 中訓練獎勵模型，對兩個聊天機器人的反應進行排名，並向 PPO 微調提供更好或更差的訊號。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
Bradley-Terry 獎勵模型的實踐
直接偏好優化使用 Bradley-Terry log-sigmoid 損失直接在選擇與拒絕的答案對上微調模型。
直接偏好優化使用 Bradley-Terry log-sigmoid 損失直接在選擇與拒絕的答案對上微調模型。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
Bradley-Terry 獎勵模型的實踐
透過 Elo 對國際象棋或電子競技選手進行排名，這在數學上與比賽結果的 Bradley-Terry 模型非常接近。
透過 Elo 對國際象棋或電子競技選手進行排名，這在數學上是 Bradley-Terry 遊戲結果模型的近親。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
Bradley-Terry 獎勵模型的實踐
根據「用戶喜歡 A 而不是 B」的點擊數據而不是絕對星級來建立內容推薦排名。
根據“用戶更喜歡 A 而不是 B”的點擊數據而不是絕對星級評級來構建內容推薦排名 團隊在預先定義質量閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄 Bradley-Terry 獎勵模型在哪些方面有幫助以及在哪些方面更簡單的方法更好。
記錄 Bradley-Terry 獎勵模型在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。