概述
借鑒自人類心理學,這種劃分讓代理人既能回想發生過的事,也能知道什麼是真實的。
深入探討
語言模型本身是無狀態的:一旦對話滾動經過其上下文窗口,它就會忘記。為了建構跨會話持續存在的代理,開發人員添加了受人類認知啟發的外部記憶。 Episodic memory stores specific, time-stamped experiences ("on Tuesday the user said they prefer morning meetings"), while semantic memory stores distilled, 矢量 knowledge (" user is a vegetarian")。當代理需要採取行動時,它會查詢內存,檢索最相關的項目,並將它們插入到提示中。隨著時間的推移,重複的事件會被整合為穩定的語義事實,反映了人類如何將經驗轉化為知識。
現實世界的實施
编码助理回忆起您的项目跨会话使用 TypeScript 和您首选的测试框架
客户支持机器人会记住过去的特定票证(情景)和您的帐户级别(语义)
一位私人助理将许多“我吃了一份沙拉”的提及整合到您是素食主义者的稳定事实中
存储早期查询结果的研究代理,这样就不会重复相同的网络搜索
情景記憶和語意代理記憶的未來
記憶體正在成為個人人工智慧助理的差異化因素。 Expect standardized memory layers that survive across apps, smarter forgetting policies that prune stale or low-value entries, and procedural memory that stores reusable skills, not just facts..研究也正在解決記憶衝突,即新資訊應該覆蓋過時的信念,而不抹去有用的歷史。
付諸實踐
為什麼這很重要
- 成本與預算. 多年來,架構決策決定著效能和營運成本。
- 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
- 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。
留意
- 優化一項基準測試可以隱藏更廣泛的系統弱點。
- 基礎設施和維護成本常常被低估。
- 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。
後續步驟
- 在實施之前定義延遲、品質和成本目標。
- 在實際負載和資料條件下進行基準測試。
- 儀器監控錯誤、漂移和使用者影響。
- 在擴展之前準備回滾和事件回應路徑。
不斷探索
常見問題
什麼是情節與語意代理記憶?
人工智慧代理需要兩種長期記憶:針對特定過去事件的情景記憶和針對一般事實的語義記憶。借用人類心理學,這種分裂讓代理人既能回想起發生過的事情,又能知道什麼是真實的。
人工智慧代理中的情景記憶和語意記憶有什麼區別?
情景記憶保存著帶有時間戳記的特定經歷,而語意記憶則保存著提煉出來的一般事實,反映了人類的差異。
沒有外部記憶或檢索系統的語言模型會受到什麼限制?
指南的說法僅針對單獨的模型;應用程式可以加入持續存在且可單獨檢索的外部記憶。
記憶通常如何儲存以便快速檢索?
文字被轉換為嵌入向量並儲存在向量資料庫中,從而實現基於相似性的查找。
在查詢時,智能體如何找到相關記憶?
代理嵌入當前上下文並檢索最接近的存儲向量,通常通過餘弦相似度。
「鞏固」對特工的記憶有什麼作用?
整合將許多相關的片段條目總結為穩定的事實,減少混亂和矛盾,就像人類從經驗中形成知識一樣。