Tự RAG và truy xuất phản chiếu
Self-RAG là một khung trong đó mô hình ngôn ngữ quyết định thời điểm truy xuất, sau đó phê bình cả các đoạn được truy xuất và đầu ra của chính nó bằng cách sử dụng các mã thông báo phản ánh đặc biệt.
Tổng quan
It matters because it makes retrieval-augmented generation adaptive and self-checking instead of blindly fetching documents for every query.
Lặn sâu
RAG tiêu chuẩn truy xuất một số lượng đoạn văn cố định cho mỗi đầu vào, ngay cả khi không cần thiết và không bao giờ xác minh xem câu trả lời có thực sự được hỗ trợ hay không. Self-RAG, được Asai và các đồng nghiệp giới thiệu vào năm 2023, đào tạo một mô hình duy nhất để thực hiện ba việc theo yêu cầu. Đầu tiên, nó phát ra mã thông báo 'truy xuất' để quyết định xem có cần kiến thức bên ngoài hay không. Thứ hai, sau khi truy xuất, nó sẽ đưa ra các mã thông báo phê bình 'Có liên quan' để đánh giá xem mỗi đoạn văn có hữu ích hay không. Thứ ba, nó tạo ra các mã thông báo 'IsSupported' và 'IsUseful' để đánh giá xem các tuyên bố của chính nó có căn cứ vào bằng chứng hay không và phản hồi tốt như thế nào. Các mã thông báo phản ánh này cho phép hệ thống chỉ truy xuất khi được bảo đảm, lọc các đoạn không liên quan và ưu tiên các kết quả đầu ra mà chính mô hình đánh giá là được hỗ trợ tốt, giảm ảo giác.
Hiểu biết kỹ thuật
Self-RAG được đào tạo thông qua học tập có giám sát trên dữ liệu được gắn nhãn bằng mã thông báo phản chiếu, thường được chắt lọc từ mô hình mạnh hơn như GPT-4. Khi suy luận, mô hình xen kẽ các mã thông báo văn bản thông thường với các mã thông báo kiểm soát đặc biệt này. Sau đó, tìm kiếm chùm ở cấp độ phân khúc có thể chấm điểm số lần tiếp tục của ứng viên bằng cách sử dụng xác suất của mã thông báo phê bình, cho phép nhà phát triển điều chỉnh hành vi trong thời gian chạy — ví dụ: đặt trọng số 'Được hỗ trợ' nhiều hơn để tối đa hóa nền tảng thực tế so với tính trôi chảy.
Tác động chiến lược
Tốc độ và tỷ lệ
Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
Truy cập và tiếp cận
Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
Quyết định rõ ràng hơn
Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
Tương lai của Self-RAG và Truy xuất phản xạ
Truy xuất phản ánh đang hội tụ với RAG tác nhân, trong đó các mô hình lập kế hoạch tìm kiếm nhiều bước, công cụ gọi và tự sửa lỗi qua các lần lặp. Mong đợi sự tích hợp chặt chẽ hơn của việc tự phê bình với các mô hình xác minh, truy xuất qua biểu đồ tri thức và học tập củng cố để thưởng cho các câu trả lời trung thực, được trích dẫn tốt. Khi các mô hình lý luận hoàn thiện, việc truy xuất theo yêu cầu và tự đánh giá có thể trở thành một hành vi mặc định thay vì một khuôn khổ riêng biệt, với mô hình sẽ tự động quyết định lượng bằng chứng mà mỗi tuyên bố yêu cầu.
Triển khai trong thế giới thực
Trợ lý Hỏi đáp y tế chỉ truy xuất hướng dẫn cho các câu hỏi lâm sàng và bỏ qua việc truy xuất lời chào bằng cách sử dụng mã thông báo quyết định 'truy xuất' của nó.
Trợ lý nghiên cứu lọc ra các lượt tìm kiếm lạc đề bằng cách kiểm tra bài phê bình 'Có liên quan' của từng đoạn văn trước khi viết.
Chatbot dành cho doanh nghiệp ưu tiên các câu trả lời được gắn thẻ 'IsSupported' để các tuyên bố của nó luôn có căn cứ trong các tài liệu của công ty, giảm bớt ảo giác.
Một công cụ xác minh tính xác thực sử dụng điểm 'IsUseful' để xếp hạng nhiều câu trả lời của ứng viên và đưa ra câu trả lời có bằng chứng tốt nhất.
Rủi ro & lan can
Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Lộ trình thực hiện
Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-RAG and Reflective Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
RAG suy đoán và soạn thảo tăng cường truy xuất
Câu hỏi thường gặp
What is Self-RAG and Reflective Retrieval?
Self-RAG là một khung trong đó mô hình ngôn ngữ quyết định thời điểm truy xuất, sau đó phê bình cả các đoạn được truy xuất và đầu ra của chính nó bằng cách sử dụng các mã thông báo phản ánh đặc biệt. Điều này quan trọng vì nó làm cho thế hệ tăng cường truy xuất có tính thích ứng và tự kiểm tra thay vì tìm nạp tài liệu một cách mù quáng cho mọi truy vấn.
Self-RAG đưa ra quyết định quan trọng nào mà RAG tiêu chuẩn không đưa ra?
Self-RAG phát ra mã thông báo 'truy xuất' để quyết định theo yêu cầu xem có cần tài liệu bên ngoài hay không thay vì luôn truy xuất.
'Mã thông báo phản ánh' trong Self-RAG là gì?
Các mã thông báo phản ánh như IsRelevant, IsSupported và IsUseful cho phép mô hình phê bình các đoạn văn và kết quả đầu ra của chính nó.
Mã thông báo phản ánh nào đánh giá liệu một tuyên bố được tạo có căn cứ vào bằng chứng được truy xuất hay không?
Mã thông báo IsSupported đánh giá xem xác nhận quyền sở hữu của mô hình có thực sự được hỗ trợ bởi các đoạn được truy xuất hay không, giúp giảm ảo giác.
Mô hình Self-RAG thường được đào tạo như thế nào để tạo ra mã thông báo phản ánh?
Self-RAG học từ dữ liệu đào tạo được chú thích bằng mã thông báo phản chiếu, thường được tạo bởi mô hình giáo viên có năng lực hơn như GPT-4.
Việc đưa ra lời phê bình 'Có liên quan' cho mỗi đoạn văn mang lại lợi ích gì?
Bằng cách phê bình mức độ liên quan của từng đoạn văn, Self-RAG có thể bỏ qua các truy xuất lạc đề thay vì nhồi nhét chúng vào câu trả lời.