自玩微調
自對弈微調透過讓它與自己過去的產出競爭或學習，產生自己的訓練訊號來改進模型。
概述
它很重要，因為它能在幾乎不需人工標記的情況下，將績效推向監督資料之外。
深入探討
自對弈在遊戲人工智慧中有著深厚的根源：AlphaGo Zero 和 AlphaZero 純粹是透過與自己進行數百萬局比賽而達到超人的水平，沒有人類的對局記錄。同樣的精神現在也出現在語言模型微調中。在SPIN（自玩微調）中，當前模型產生對提示的反應，訓練推動模型將自己產生的答案與原始人類編寫的答案區分開來，將自己視為玩家和對手。經過連續的迭代，「對手」（前一個檢查點）變得更強，因此模型必須不斷改進，逐漸縮小與目標分佈的差距。最大的吸引力在於資料效率：可以壓縮固定的監督資料集以獲得更多收益，而無需收集新的人類演示或偏好。
技術洞察
SPIN 將微調作為具有 DPO 式損失的兩人遊戲：模型經過訓練，可以為人類參考響應分配比在先前迭代中自己生成的響應更高的可能性。由於先前的檢查點提供了負數，因此難度會隨著模型的改進而自動縮放。在遊戲系統中，自我遊戲與搜尋（例如 MCTS）和價值網絡相結合，在沒有外部數據的情況下產生越來越難的對手的無盡課程。
戰略影響
更明確的決策
它可以幫助您將清晰的技術聲明與行銷語言分開。
成本與預算
在花費金錢或時間之前，您可以提出更好的實施問題。
團隊與工作流程
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
自玩微調的未來
自我遊戲是打破數據牆的主要候選者，因為它製作自己的課程，而不是依賴稀缺的人類標籤。預計數學、程式碼和定理證明等可驗證領域的成長，其中自動檢查器會對自我生成的嘗試進行評分。風險包括獎勵駭客和模型因過多的合成輸出訓練而崩潰，因此未來的系統可能會將自我遊戲與接地訊號、驗證器以及定期的人類或現實世界回饋結合起來。
現實世界的實施
AlphaGo Zero 和 AlphaZero 完全透過自我對弈達到超人的圍棋、西洋棋和將棋水平，而無需人類對弈
SPIN 透過迭代區分自己的輸出和人類參考答案來提高 LLM 的基準分數
數學和編碼模型產生解決方案嘗試，然後對自動檢查器或單元測試驗證的模型進行訓練
談判和對話代理透過反覆讓對話雙方互相對抗來改進策略
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
在測試之前選擇一種成功指標和一種失敗條件。
使用代表性資料運行小型試點，而不是完善的演示集。
記錄自玩微調在哪些方面有幫助以及在哪些方面更簡單的方法更好。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-Play Fine-Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
什麼是自玩微調？
自對弈微調透過讓它與自己過去的產出競爭或學習，產生自己的訓練訊號來改進模型。這很重要，因為它可以使用很少或不使用額外的人工標籤來將效能提升到超出監督資料的水平。
哪個著名的系統僅通過自我對弈而沒有人類對局記錄就達到了超人的圍棋水平？
AlphaGo Zero 完全從與自己對戰的遊戲中學習，從隨機遊戲開始，並超越了先前在人類遊戲中訓練的版本。
在SPIN中，模型必須擊敗的「對手」扮演什麼角色？
SPIN 將微調視為一種自博遊戲，其中先前迭代的自生成輸出作為模型學習超越的負數。
自對弈微調的主要資料效率優勢是什麼？
自我對弈會產生自己的訓練訊號，因此固定的監督集可以產生進一步的改進，而無需收集新的演示。
在SPIN的訓練目標中，模型被推動做什麼？
SPIN 使用 DPO 式損失，獎勵將人類參考答案（正數）與模型早期自行產生的答案（負數）區分開來。
為什麼自對弈微調的難度會隨著迭代而自動增加？
由於每次迭代的負面結果都來自更強大的先前模型，因此如果沒有手動課程設計，該模型將面臨越來越困難的挑戰。