Bộ nhớ tác nhân theo giai đoạn và ngữ nghĩa
Tác nhân AI cần hai loại bộ nhớ dài hạn: bộ nhớ phân đoạn cho các sự kiện cụ thể trong quá khứ và bộ nhớ ngữ nghĩa cho các sự kiện chung.
Tổng quan
Borrowed from human psychology, this split lets agents both recall what happened and know what is true.
Lặn sâu
Bản thân một mô hình ngôn ngữ là không trạng thái: khi một cuộc hội thoại cuộn qua cửa sổ ngữ cảnh của nó, nó sẽ quên mất. Để xây dựng các tác nhân tồn tại qua các phiên, nhà phát triển thêm bộ nhớ ngoài lấy cảm hứng từ nhận thức của con người. Trí nhớ tình tiết lưu trữ những trải nghiệm cụ thể, có dấu thời gian ("vào thứ Ba, người dùng cho biết họ thích họp buổi sáng"), trong khi trí nhớ ngữ nghĩa lưu trữ kiến thức tổng quát, chắt lọc ("người dùng này là người ăn chay"). Trong thực tế, chúng được lưu giữ trong cơ sở dữ liệu vector và các cửa hàng có cấu trúc. Khi tác nhân cần hành động, nó sẽ truy vấn bộ nhớ, truy xuất các mục phù hợp nhất và chèn chúng vào dấu nhắc. Theo thời gian, các tình tiết lặp đi lặp lại sẽ được củng cố thành các sự kiện có ngữ nghĩa ổn định, phản ánh cách con người biến trải nghiệm thành kiến thức.
Hiểu biết kỹ thuật
Ký ức thường được lưu trữ dưới dạng phần nhúng: văn bản được chuyển đổi thành vectơ có ý nghĩa, sau đó được lưu vào cơ sở dữ liệu vectơ. Tại thời điểm truy vấn, tác nhân sẽ nhúng tình huống hiện tại và truy xuất các lân cận gần nhất bằng độ tương tự cosine. Các mục nhập theo từng tập giữ dấu thời gian và bối cảnh nguồn; các mục ngữ nghĩa là các bản tóm tắt được loại bỏ trùng lặp. Một quy trình hợp nhất sẽ viết lại các tập hợp theo định kỳ thành các sự kiện ngắn gọn, ngăn không cho kho lưu trữ bị phình to và giảm các truy xuất mâu thuẫn.
Tác động chiến lược
Chi phí và ngân sách
Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
Quyết định rõ ràng hơn
Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
Kiểm soát chất lượng
Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
Tương lai của trí nhớ phân đoạn và tác nhân ngữ nghĩa
Bộ nhớ đang trở thành điểm khác biệt cho trợ lý AI cá nhân. Mong đợi các lớp bộ nhớ được tiêu chuẩn hóa tồn tại trên các ứng dụng, các chính sách quên thông minh hơn giúp loại bỏ các mục nhập cũ hoặc có giá trị thấp và bộ nhớ thủ tục lưu trữ các kỹ năng có thể sử dụng lại chứ không chỉ dữ kiện. Quyền riêng tư và kiểm soát người dùng sẽ là trọng tâm: mọi người sẽ muốn kiểm tra, chỉnh sửa và xóa những gì nhân viên ghi nhớ. Nghiên cứu cũng đang giải quyết những xung đột về trí nhớ, trong đó thông tin mới sẽ ghi đè lên những niềm tin lỗi thời mà không xóa đi lịch sử hữu ích.
Triển khai trong thế giới thực
Trợ lý mã hóa nhắc lại rằng dự án của bạn sử dụng TypeScript và khung thử nghiệm ưa thích của bạn qua các phiên
Bot hỗ trợ khách hàng ghi nhớ phiếu trước đây cụ thể (tập) và cấp tài khoản của bạn (ngữ nghĩa)
Một trợ lý cá nhân tổng hợp nhiều câu "Tôi đã ăn salad" đề cập đến sự thật chắc chắn rằng bạn là người ăn chay
Tác nhân nghiên cứu lưu trữ các phát hiện từ các truy vấn trước đó để nó không lặp lại các tìm kiếm trên web giống nhau
Rủi ro & lan can
Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Lộ trình thực hiện
Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Episodic and Semantic Agent Memory quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Hệ thống bộ nhớ tác nhân
Câu hỏi thường gặp
What is Episodic and Semantic Agent Memory?
Tác nhân AI cần hai loại bộ nhớ dài hạn: bộ nhớ phân đoạn cho các sự kiện cụ thể trong quá khứ và bộ nhớ ngữ nghĩa cho các sự kiện chung. Mượn từ tâm lý con người, sự phân chia này cho phép các đặc vụ nhớ lại những gì đã xảy ra và biết đâu là sự thật.
Sự khác biệt giữa trí nhớ phân đoạn và ngữ nghĩa trong tác nhân AI là gì?
Trí nhớ phân đoạn lưu giữ những trải nghiệm cụ thể được đánh dấu theo thời gian, trong khi trí nhớ ngữ nghĩa lưu giữ những sự kiện chung được chắt lọc, phản ánh sự khác biệt của con người.
Tại sao các mô hình ngôn ngữ đơn giản lại cần bộ nhớ ngoài?
Một mô hình chỉ nhìn thấy những gì phù hợp với cửa sổ ngữ cảnh của nó; khi một cuộc trò chuyện cuộn qua, nó sẽ biến mất trừ khi được lưu trữ bên ngoài.
Ký ức thường được lưu trữ như thế nào để có thể truy xuất nhanh?
Văn bản được chuyển đổi thành các vectơ nhúng và được lưu trữ trong cơ sở dữ liệu vectơ, cho phép tra cứu dựa trên sự tương đồng.
Tại thời điểm truy vấn, tác nhân tìm thấy những ký ức liên quan bằng cách nào?
Tác nhân nhúng bối cảnh hiện tại và truy xuất các vectơ được lưu trữ gần nhất, thường bằng độ tương tự cosine.
'Hợp nhất' có tác dụng gì đối với trí nhớ của tác nhân?
Việc hợp nhất tổng hợp nhiều mục có liên quan thành các sự kiện ổn định, giảm bớt sự lộn xộn và mâu thuẫn, giống như con người hình thành kiến thức từ kinh nghiệm.