技術指南

思考樹推理

思想樹讓模型可以並行探索許多推理路徑,就像樹的分支一樣,而不是局限於一條思路。

聆聽此指南AI 語音敘述 · ~2 min

本頁閱讀時間約2分鐘
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 思想樹推理的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

它能前瞻性、評估部分解決方案,並從死胡同中回溯。

深入探討

由姚等人介紹。 2023年,思想樹(ToT)概括了思想鏈提示。思想鏈產生推理步驟的單一線性序列,而 ToT 將問題建構成樹:每個節點都是部分解決方案(一個「想法」),模型從每個節點產生幾個候選的下一個想法。單獨的評估步驟對每個分支的前景進行評分,而廣度優先或深度優先搜尋等搜尋演算法則決定擴展哪些分支以及修剪哪些分支。這讓模型可以有意識地探索,向前看幾步,並在路徑看起來沒有希望時回溯。 ToT 擅長擊敗貪婪的單路徑推理的任務,最著名的是 24 人遊戲,其中帶有思維鏈的 GPT-4 解決了大約 4% 的謎題,但 ToT 將成功率提高到了大約 74%。

現實世界的實施

透過分支首先組合兩個數字並修剪不能達到 24 的算術路徑來解決 24 遊戲。

具有連貫計劃的創意寫作,模型起草幾個情節大綱,對其進行評估,並在撰寫散文之前擴展最強的內容。

像迷你填字遊戲這樣的約束性謎題,其中每個填充的單字都是一個想法,不相容的分支將被放棄。

多步驟數學或規劃問題,其中模型探索替代中間步驟並從違反約束的步驟中回溯。

思想樹推理的未來

思想樹正在影響推理時間計算的使用方式:系統不再進行一次大的前向傳遞,而是越來越多地搜尋推理路徑並選擇最佳路徑。未來的工作旨在了解何時分支值得其高令牌成本,使用經過訓練的價值函數而不是基於提示的自我評估,並將樹搜尋折疊到推理模型中,以便審議更加有效。期望與工具和驗證器更緊密地集成,因此分支評估依賴於真實的反饋而不是模型的猜測。

付諸實踐

為什麼這很重要

  • 成本與預算. 多年來,架構決策決定著效能和營運成本。
  • 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
  • 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。

留意

  • 優化一項基準測試可以隱藏更廣泛的系統弱點。
  • 基礎設施和維護成本常常被低估。
  • 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。

後續步驟

  1. 在實施之前定義延遲、品質和成本目標。
  2. 在實際負載和資料條件下進行基準測試。
  3. 儀器監控錯誤、漂移和使用者影響。
  4. 在擴展之前準備回滾和事件回應路徑。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

參加 Tree-of-Thoughts 推理測驗

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是思緒樹推理?

思想樹讓模型可以並行探索許多推理路徑,就像樹的分支一樣,而不是局限於一條思路。它可以展望未來,評估部分解決方案,並從死胡同中回溯。

思考樹與思維鏈提示有何不同?

思想鏈產生單一線性序列,而思想樹分支成許多可以評估和修剪的候選路徑。

在思想樹中,單一節點通常代表什麼?

每個節點都是一個部分解決方案(一個想法),模型從每個節點擴展出幾個候選的下一個想法。

狀態評估者在思想樹中扮演什麼角色?

評估者(通常是同一位法學碩士)對部分狀態(例如,確定/也許/不可能)進行評分或投票,以便搜尋可以集中在有前途的分支上。

在 Game of 24 基準測試中,ToT 的表現比 Chain-of-Thought 的表現大約高出多少?

具有思維鏈的 GPT-4 解決了 24 個遊戲謎題的大約 4%,而思維樹則達到了大約 74%。

哪些搜尋策略通常用於導航思想樹?

ToT 將思想產生和評估與 BFS、DFS 或波束搜尋等經典搜尋程序結合起來,以決定擴展哪些分支。