思想之樹
思想樹 (ToT) 是一個提示框架,它讓語言模型可以像樹的分支一樣並行探索多個推理路徑,而不是局限於單一的思考路線。
概述
It matters because it dramatically improves performance on problems that require planning, search, or backtracking.
深入探討
標準的思維鏈提示會引導模型從頭到尾執行一系列推理步驟,這適用於許多任務,但當早期的錯誤注定了整個答案時就會失敗。普林斯頓大學和 Google DeepMind 的研究人員於 2023 年推出了“思想之樹”,它將推理重新定義為對樹的搜尋。在每一步,模型都會產生幾個候選「想法」(中間步驟或部分解決方案),評估每個想法的前景,然後進一步探索最佳分支,放棄死胡同。這讓模型能夠向前看、比較選項並回溯,表現得更像是深思熟慮的問題解決者,而不是一次性猜測者。在像 24 人遊戲這樣的任務中,ToT 將思維鏈的成功率從幾個百分點提高到了 74% 左右。
技術洞察
ToT 結合了三個要素:提出多個後續步驟的思想產生器、對每條部分路徑成功的可能性進行評分或投票的狀態評估器、以及決定擴展或修剪哪些分支的搜尋演算法(通常是廣度優先或深度優先搜尋)。模型本身通常會透過提示將狀態評為「確定」、「也許」或「不可能」來執行評估。至關重要的是,這是模型提示的包裝,而不是重新訓練。
戰略影響
速度與規模
語言工作流程可以在不犧牲一致性的情況下更快地移動。
交通與覆蓋範圍
它擴展了跨語言和溝通方式的訪問。
更明確的決策
團隊可以花更多時間進行判斷,而自動化則可以處理重複。
思想之樹的未來
期望樹式審議被吸收到代理系統和「推理」模型中,在推理時為難題分配額外的計算。像思維圖這樣的變體允許合併和重複使用中間結果的路徑,並且學習評估器可以取代基於提示的評分以提高可靠性。更廣泛的趨勢是將推理時間搜尋視為可調旋鈕:花費更多的計算來探索高風險問題的分支,減少簡單問題的計算,從而模糊了提示和計劃之間的界限。
現實世界的實施
透過探索和修剪許多候選方程,解決 24 人遊戲難題,其中四個數字必須透過算術組合才能達到 24。
在創意寫作任務中,模型起草幾個情節方向,評估連貫性,並發展出最強的一個。
數學證明或多步驟應用題,其中從有缺陷的步驟回溯對於得出正確答案至關重要。
像迷你填字遊戲這樣的約束謎題,模型會測試部分填充並放棄違反線索的分支。
風險與防護欄
幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
及時的敏感性可能會在類似的請求中產生不一致的結果。
如果存取控制薄弱,敏感文字資料可能會暴露。
實施路線圖
在推出之前定義輸出格式、語氣和品質標準。
當準確性很重要時,請使用可信任來源進行地面回應。
為高風險輸出保留人工審查檢查點。
追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree of Thoughts quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Tree of Thoughts?
思想樹 (ToT) 是一個提示框架,它讓語言模型可以像樹的分支一樣並行探索多個推理路徑,而不是局限於單一的思考路線。這很重要,因為它極大地提高了需要規劃、搜尋或回溯的問題的效能。
思想樹與思想鏈提示有何根本差別?
在思想鏈遵循一條線性路徑的情況下,思想樹分支成幾個候選思想,評估它們,並從死胡同回溯。
思想樹系統由哪三個組成部分組成?
ToT 將候選想法的產生器、對部分狀態進行評分的評估器以及用於決定擴展哪些分支的搜尋過程(如 BFS 或 DFS)配對。
在 Game of 24 基準測試中,使用 Tree of Thought 的顯著結果是什麼?
與思維鏈相比,ToT 大大提高了 Game of 24 的成功率,展示了搜尋和回溯的價值。
思想樹系統通常如何評估部分解決方案?
模型本身通常充當評估器,判斷每條部分路徑的前景如何,以便搜尋可以修剪薄弱分支。
在現有模型上實施思想樹的事實是怎樣的?
ToT 透過提示和搜尋循環來協調模型的現有功能;它不會修改基礎權重。