概述
它獲得自己的新上下文視窗並僅發送回壓縮結果。這使得主要代理的上下文簡短且切中主題,並讓獨立工作並行運行,但代價是額外的令牌以及在切換中丟失重要細節的風險。
深入探討
語言模型在有限的上下文視窗內工作,即使在達到硬限制之前,隨著該視窗充滿搜尋結果、文件內容和舊工具輸出,品質通常會下降。子代理透過分工來處理這個問題。主代理程式(有時稱為協調器或領導者)編寫任務描述並啟動具有乾淨上下文的子代理程式(通常使用一組較窄的工具)。子代理進行探索、呼叫工具和原因,然後發回摘要。只有該摘要才進入主要代理的上下文。此圖案出現在實際產品中。例如,Claude Code 允許使用者使用自己的指令和工具權限定義子代理,並且多個編碼和研究代理將探索工作傳送給平行工作人員。 Anthropic 撰寫了有關多智能體研究系統的文章,其中主導智能體並行運行子智能體。它報告了廣泛的研究問題的進展以及比單一代理更高的代幣使用率。權衡是真實的。成本會上升,因為每個子代理程式都會重新載入指令並重複一些探索。協調變得更加困難:並行子代理無法看到彼此的工作,因此它們可能會重複工作或做出不相容的選擇。當任務緊密連結時(例如編寫一段程式碼的不同部分),這是一個特殊的問題。資訊會遺失,因為摘要會刪除主代理可能需要的詳細信息,而子代理只知道其任務描述告訴它的內容。一種誤解是更多的代理總是意味著更好的結果。一些從業者認為,對於緊密聯繫的工作,具有管理良好的上下文的單一代理更可靠。子代理最適合獨立、需要大量閱讀且易於總結的任務:搜尋、調查、檢查和收集。
現實世界的實施
要求修復錯誤的編碼代理啟動子代理程式來搜尋大型儲存庫以查找函數的每個呼叫者。子代理程式讀取數十個檔案並傳回十行位置列表,因此主代理的上下文永遠不會填入檔案內容。
研究助理同時啟動三個子代理,每個子問題一個,每個子代理自己搜尋網路。然後,首席代理人將他們的簡短摘要合併成一份報告。
程式碼審查設定僅向子代理提供差異和審查清單。因為它沒有看到主要代理的早期推理,所以不太可能分享該代理程式關於程式碼為何正確的假設。
一個團隊發現,一個子代理只告訴“檢查測試”,就重新運行了整個套件並報告了不相關的故障。他們透過向子代理提供準確的測試文件、目標和他們想要返回的格式來修復此問題。
子代理和上下文隔離的未來
子代理程式正在成為編碼和研究代理的標準功能,對自訂定義、每個子代理程式工具權限和並行執行的支援不斷增加。懸而未決的問題包括如何在代理之間傳遞更豐富的共享狀態而不導致上下文膨脹,以及如何自動決定何時分割任務值得付出代價。在某些情況下,更大的上下文視窗和更好的上下文管理(例如自動摘要)可能會減少對子代理的需求。隔離也有其自身的好處,包括新鮮的視角、並行工作和更嚴格的權限,因此該模式可能仍然有用。
付諸實踐
為什麼這很重要
- 速度與規模. 語言工作流程可以在不犧牲一致性的情況下更快地移動。
- 交通與覆蓋範圍. 它擴展了跨語言和溝通方式的訪問。
- 更明確的決策. 團隊可以花更多時間進行判斷,而自動化則可以處理重複。
留意
- 幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
- 及時的敏感性可能會在類似的請求中產生不一致的結果。
- 如果存取控制薄弱,敏感文字資料可能會暴露。
後續步驟
- 在推出之前定義輸出格式、語氣和品質標準。
- 當準確性很重要時,請使用可信任來源進行地面回應。
- 為高風險輸出保留人工審查檢查點。
- 追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
常見問題
什麼是子代理和上下文隔離?
子代理程式是一個單獨的模型實例,主 AI 代理開始處理一個重點子任務。它獲得自己的新上下文視窗並僅發送回壓縮結果。這使得主要代理的上下文簡短且切中主題,並讓獨立工作並行運行,但代價是額外的令牌以及在切換中丟失重要細節的風險。
子代理與主代理的主要差異是什麼?
上下文隔離是其定義特徵。子代理的工作細節脫離了主要上下文,僅返回其摘要。
為什麼填充上下文視窗甚至在其硬性限制之前就會成為問題?
大量舊的搜尋結果和文件內容可能會削弱模型對當前重要事務的注意力。
哪項任務最適合子代理?
搜尋是獨立的、重閱讀且易於總結,這就是子代理最有效的地方。
子代理資訊遺失的主要來源是什麼?
資訊在兩個方向上都會遺失:切換限制了子代理知道的信息,而摘要限制了傳回的資訊。
為什麼多代理設定通常會花費更多的代幣?
每個子代理商都是全新開始的,因此共享設定和重疊探索會多次獲得報酬。