思考樹推理
思想樹讓模型可以並行探索許多推理路徑，就像樹的分支一樣，而不是局限於一條思路。
概述
它能前瞻性、評估部分解決方案，並從死胡同中回溯。
深入探討
由姚等人介紹。 2023年，思想樹（ToT）概括了思想鏈提示。思想鏈產生推理步驟的單一線性序列，而 ToT 將問題建構成樹：每個節點都是部分解決方案（一個「想法」），模型從每個節點產生幾個候選的下一個想法。單獨的評估步驟對每個分支的前景進行評分，而廣度優先或深度優先搜尋等搜尋演算法則決定擴展哪些分支以及修剪哪些分支。這讓模型可以有意識地探索，向前看幾步，並在路徑看起來沒有希望時回溯。 ToT 擅長擊敗貪婪的單路徑推理的任務，最著名的是 24 人遊戲，其中帶有思維鏈的 GPT-4 解決了大約 4% 的謎題，但 ToT 將成功率提高到了大約 74%。
技術洞察
ToT 包含三個部分：提出候選下一步的思想產生器、狀態評估器（通常是同一個法學碩士提示對部分解決方案進行評級或投票為「確定/可能/不可能」）以及導航樹的搜尋程序（BFS、DFS 或波束搜尋）。由於模型評估部分狀態並修剪薄弱分支，因此它將計算分配給解決方案空間的有希望的區域，用額外的推理來換取對難題的更高的準確性。
戰略影響
成本與預算
多年來，架構決策決定著效能和營運成本。
更明確的決策
技術教育幫助團隊選擇正確的堆疊，而不僅僅是最新的堆疊。
品質管控
更好的工程選擇可以減少生產中的可靠性事故。
思想樹推理的未來
思想樹正在影響推理時間計算的使用方式：系統不再進行一次大的前向傳遞，而是越來越多地搜尋推理路徑並選擇最佳路徑。未來的工作旨在了解何時分支值得其高令牌成本，使用經過訓練的價值函數而不是基於提示的自我評估，並將樹搜尋折疊到推理模型中，以便審議更加有效。期望與工具和驗證器更緊密地集成，因此分支評估依賴於真實的反饋而不是模型的猜測。
現實世界的實施
透過分支首先組合兩個數字並修剪不能達到 24 的算術路徑來解決 24 遊戲。
具有連貫計劃的創意寫作，模型起草幾個情節大綱，對其進行評估，並在撰寫散文之前擴展最強的內容。
像迷你填字遊戲這樣的約束性謎題，其中每個填充的單字都是一個想法，不相容的分支將被放棄。
多步驟數學或規劃問題，其中模型探索替代中間步驟並從違反約束的步驟中回溯。
風險與防護欄
優化一項基準測試可以隱藏更廣泛的系統弱點。
基礎設施和維護成本常常被低估。
隨著系統變得更加複雜，安全性和可觀察性差距可能會擴大。
實施路線圖
在實施之前定義延遲、品質和成本目標。
在實際負載和資料條件下進行基準測試。
儀器監控錯誤、漂移和使用者影響。
在擴展之前準備回滾和事件回應路徑。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree-of-Thoughts Reasoning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
什麼是思緒樹推理？
思想樹讓模型可以並行探索許多推理路徑，就像樹的分支一樣，而不是局限於一條思路。它可以展望未來，評估部分解決方案，並從死胡同中回溯。
思考樹與思維鏈提示有何不同？
思想鏈產生單一線性序列，而思想樹分支成許多可以評估和修剪的候選路徑。
在思想樹中，單一節點通常代表什麼？
每個節點都是一個部分解決方案（一個想法），模型從每個節點擴展出幾個候選的下一個想法。
狀態評估者在思想樹中扮演什麼角色？
評估者（通常是同一位法學碩士）對部分狀態（例如，確定/也許/不可能）進行評分或投票，以便搜尋可以集中在有前途的分支上。
在 Game of 24 基準測試中，ToT 的表現比 Chain-of-Thought 的表現大約高出多少？
具有思維鏈的 GPT-4 解決了 24 個遊戲謎題的大約 4%，而思維樹則達到了大約 74%。
哪些搜尋策略通常用於導航思想樹？
ToT 將思想產生和評估與 BFS、DFS 或波束搜尋等經典搜尋程序結合起來，以決定擴展哪些分支。