Tiếp theoHướng dẫn tiếp theo
Hệ thống bộ nhớ tác nhân
Ứng dụng
HƯỚNG DẪN KỸ THUẬT
Bộ nhớ tác nhân theo giai đoạn và ngữ nghĩa
Tác nhân AI cần hai loại bộ nhớ dài hạn: bộ nhớ phân đoạn cho các sự kiện cụ thể trong quá khứ và bộ nhớ ngữ nghĩa cho các sự kiện chung.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
Mượn từ tâm lý con người, sự phân chia này cho phép các đặc vụ nhớ lại những gì đã xảy ra và biết đâu là sự thật.
Lặn sâu
Bản thân một mô hình ngôn ngữ là không trạng thái: khi một cuộc hội thoại cuộn qua cửa sổ ngữ cảnh của nó, nó sẽ quên mất. Để xây dựng các tác nhân tồn tại qua các phiên, nhà phát triển thêm bộ nhớ ngoài lấy cảm hứng từ nhận thức của con người. Trí nhớ tình tiết lưu trữ những trải nghiệm cụ thể, có dấu thời gian ("vào thứ Ba, người dùng cho biết họ thích họp buổi sáng"), trong khi trí nhớ ngữ nghĩa lưu trữ kiến thức tổng quát, chắt lọc ("người dùng này là người ăn chay"). Trong thực tế, chúng được lưu giữ trong cơ sở dữ liệu vector và các cửa hàng có cấu trúc. Khi tác nhân cần hành động, nó sẽ truy vấn bộ nhớ, truy xuất các mục phù hợp nhất và chèn chúng vào dấu nhắc. Theo thời gian, các tình tiết lặp đi lặp lại sẽ được củng cố thành các sự kiện có ngữ nghĩa ổn định, phản ánh cách con người biến trải nghiệm thành kiến thức.
Triển khai trong thế giới thực
Trợ lý mã hóa nhắc lại rằng dự án của bạn sử dụng TypeScript và khung thử nghiệm ưa thích của bạn qua các phiên
Bot hỗ trợ khách hàng ghi nhớ phiếu trước đây cụ thể (tập) và cấp tài khoản của bạn (ngữ nghĩa)
Một trợ lý cá nhân tổng hợp nhiều câu "Tôi đã ăn salad" đề cập đến sự thật chắc chắn rằng bạn là người ăn chay
Tác nhân nghiên cứu lưu trữ các phát hiện từ các truy vấn trước đó để nó không lặp lại các tìm kiếm trên web giống nhau
Tương lai của trí nhớ phân đoạn và tác nhân ngữ nghĩa
Bộ nhớ đang trở thành điểm khác biệt cho trợ lý AI cá nhân. Mong đợi các lớp bộ nhớ được tiêu chuẩn hóa tồn tại trên các ứng dụng, các chính sách quên thông minh hơn giúp loại bỏ các mục nhập cũ hoặc có giá trị thấp và bộ nhớ thủ tục lưu trữ các kỹ năng có thể sử dụng lại chứ không chỉ dữ kiện. Quyền riêng tư và kiểm soát người dùng sẽ là trọng tâm: mọi người sẽ muốn kiểm tra, chỉnh sửa và xóa những gì nhân viên ghi nhớ. Nghiên cứu cũng đang giải quyết những xung đột về trí nhớ, trong đó thông tin mới sẽ ghi đè lên những niềm tin lỗi thời mà không xóa đi lịch sử hữu ích.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Chi phí và ngân sách. Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
- Quyết định rõ ràng hơn. Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
- Kiểm soát chất lượng. Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
coi chừng
- Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
- Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
- Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Các bước tiếp theo
- Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
- Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
- Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
- Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Episodic and Semantic Agent Memory quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
Bộ nhớ tác nhân phân đoạn và ngữ nghĩa là gì?
Tác nhân AI cần hai loại bộ nhớ dài hạn: bộ nhớ phân đoạn cho các sự kiện cụ thể trong quá khứ và bộ nhớ ngữ nghĩa cho các sự kiện chung. Mượn từ tâm lý con người, sự phân chia này cho phép các đặc vụ nhớ lại những gì đã xảy ra và biết đâu là sự thật.
Sự khác biệt giữa trí nhớ phân đoạn và ngữ nghĩa trong tác nhân AI là gì?
Trí nhớ phân đoạn lưu giữ những trải nghiệm cụ thể được đánh dấu theo thời gian, trong khi trí nhớ ngữ nghĩa lưu giữ những sự kiện chung được chắt lọc, phản ánh sự khác biệt của con người.
What limitation applies to a language model without an external memory or retrieval system?
The guide’s claim concerns a model on its own; an application can add external memory that persists and is retrieved separately.
Ký ức thường được lưu trữ như thế nào để có thể truy xuất nhanh?
Văn bản được chuyển đổi thành các vectơ nhúng và được lưu trữ trong cơ sở dữ liệu vectơ, cho phép tra cứu dựa trên sự tương đồng.
Tại thời điểm truy vấn, tác nhân tìm thấy những ký ức liên quan bằng cách nào?
Tác nhân nhúng bối cảnh hiện tại và truy xuất các vectơ được lưu trữ gần nhất, thường bằng độ tương tự cosine.
'Hợp nhất' có tác dụng gì đối với trí nhớ của tác nhân?
Việc hợp nhất tổng hợp nhiều mục có liên quan thành các sự kiện ổn định, giảm bớt sự lộn xộn và mâu thuẫn, giống như con người hình thành kiến thức từ kinh nghiệm.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này