概述
這很重要,因為它讓模型能夠比所展示的範例更難地解決問題。
深入探討
Least-to-Most 提示法由 Zhou 等人在 Google 於 2022 年提出,包含兩個階段。第一階段,模型被提示將複雜問題分解為有序的較易子問題列表。第二階段,模型逐一解決這些子問題,將每個解答附加至上下文,使後續步驟能基於先前答案。此方式不同於 chain-of-thought,後者在單一過程中推理且不進行明確分解。作者評估了符號操作、數學推理以及 SCAN——一個以自然語言指令建構的組合概化基準。對於使用 GPT-3 code-davinci-002 與 14 個示例的特定 SCAN 設定,Least-to-Most 在所有測試切分(包括長度切分)上達到至少 99% 的正確率,而 chain-of-thought 提示僅為 16%。此結果僅針對該模型、提示設定與基準,並非一般正確率保證。
現實世界的實施
透過先列出要計算的數量,然後按順序計算它們來解決多步驟應用題
組合語言任務,例如將長指令從短範例翻譯為動作序列
透過將其分解為子問題來回答複雜的研究問題,這些子問題的答案將合併到最終的答案中
透過將程式分解為輔助函數來編寫程序,每次解決一個函數,每個函數都由後續步驟重複使用
從最少到最多提示的未來
現在,從最少到最多的想法支撐著許多代理和規劃器架構,這些架構在行動之前將目標分解為有序的子任務。期望與工具使用混合,其中每個子問題都可以觸發計算器、搜尋或程式碼調用,並具有自我一致性以獲得更強大的子答案。研究也正在探索自動分解,以適應問題難度的深度,並將其與驗證相結合,這樣錯誤的早期子答案就不會默默地破壞整個下游鏈。
付諸實踐
為什麼這很重要
- 速度與規模. 語言工作流程可以在不犧牲一致性的情況下更快地移動。
- 交通與覆蓋範圍. 它擴展了跨語言和溝通方式的訪問。
- 更明確的決策. 團隊可以花更多時間進行判斷,而自動化則可以處理重複。
留意
- 幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
- 及時的敏感性可能會在類似的請求中產生不一致的結果。
- 如果存取控制薄弱,敏感文字資料可能會暴露。
後續步驟
- 在推出之前定義輸出格式、語氣和品質標準。
- 當準確性很重要時,請使用可信任來源進行地面回應。
- 為高風險輸出保留人工審查檢查點。
- 追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
常見問題
什麼是從最少到最多的提示?
從最少到最多的提示將一個難題分解為一系列更簡單的子問題,按順序解決它們,以便每個答案都為下一個答案提供支持。這很重要,因為它讓模型能夠比所展示的範例更難地解決問題。
從最少到最多提示的兩個主要階段是什麼?
它首先將問題分解為一組有序的更簡單的子問題,然後按順序解決每個問題。
從最少到最多的提示與標準的思考鏈提示有何不同?
一連串的思路推理;從最小到最大顯式分解子答案並將其連結在一起。
SCANN 基準使用什麼類型的任務來測試組合概化?
SCAN 透過將語言映射到動作序列的指令來測試組合概化;Least-to-Most 論文評估提示是否能遷移至更複雜的指令組合。
為什麼子問題的順序很重要?
子問題的排列使得每個子問題僅依賴先前解決的問題,從而正確地建立答案。
在求解階段如何使用中間答案?
每個解決的子答案都會加入到運行提示中,以便後續步驟獲得所需的結果。