Tiếp theoHướng dẫn tiếp theo
RAG suy đoán và soạn thảo tăng cường truy xuất
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Thế hệ tăng cường truy xuất (RAG)
Thế hệ tăng cường truy xuất, hay RAG, cung cấp tài liệu được truy xuất cho mô hình tổng quát khi trả lời yêu cầu.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
Nó có thể cung cấp cho hệ thống quyền truy cập vào các tài liệu liên quan mà không cần đào tạo lại mô hình cho mỗi lần thay đổi tài liệu. Việc truy xuất không đảm bảo rằng câu trả lời cuối cùng được hỗ trợ hoặc chính xác.
Những điểm chính rút ra
- Giữ nguồn gốc xuất xứ và bối cảnh tài liệu.
- Thực thi quyền trước khi kết quả truy xuất đến mô hình.
- Đánh giá việc truy xuất và tạo một cách độc lập.
Lặn sâu
Một quy trình điển hình sẽ thu thập các tài liệu, bảo tồn nguồn gốc của chúng, tạo ra các biểu diễn có thể tìm kiếm được, truy xuất các ứng viên cho một truy vấn và chuyển bằng chứng đã chọn cho một mô hình. Một số hệ thống kết hợp tìm kiếm từ khóa và ngữ nghĩa hoặc sắp xếp lại kết quả trước khi tạo. Mỗi giai đoạn có thể đưa ra những thiếu sót hoặc sai sót. Việc chuẩn bị tài liệu xác định bằng chứng nào có thể được tìm thấy. Giữ nguyên tiêu đề, ngày tháng, bảng biểu và mã định danh nguồn khi chia nội dung thành các đoạn văn. Một đoạn văn bị tách khỏi một ngoại lệ hoặc chú thích cuối trang có thể truyền tải sai ý nghĩa ngay cả khi các từ được sao chép chính xác. Áp dụng các biện pháp kiểm soát truy cập trước khi bằng chứng đến được mô hình. Kết quả tìm kiếm có liên quan về mặt ngữ nghĩa có thể vẫn thuộc về tài liệu mà người dùng yêu cầu không được phép xem. Hãy coi các hướng dẫn bên trong tài liệu được truy xuất là nội dung không đáng tin cậy thay vì có quyền thay đổi hành vi của ứng dụng. Đánh giá việc truy xuất và trả lời riêng biệt. Kiểm tra xem bằng chứng cần thiết có xuất hiện trong tập ứng cử viên hay không, liệu bối cảnh được chọn có giữ lại nó hay không và liệu câu trả lời có sử dụng nó một cách trung thực hay không. Bao gồm các câu hỏi không có câu trả lời trong bộ sưu tập và các tài liệu xung đột hoặc lỗi thời. Hệ thống cần một cách rõ ràng để nói rằng bằng chứng là không đủ.
04Ví dụ hoạt động
Tìm nơi mà một câu trả lời có căn cứ không thành công
Xây dựng hai chính sách: phiên bản hết hạn cho phép trả lại trong 30 ngày; phiên bản hiện tại cho phép 14 ngày.
Nếu việc truy xuất chỉ trả về chính sách cũ thì lỗi xảy ra ở thượng nguồn của quá trình tạo. Nếu cả hai đều được truy xuất nhưng câu trả lời chọn 30 ngày, hãy điều tra việc lựa chọn bối cảnh và sử dụng bằng chứng.
Thêm xung đột ngày hiệu lực vào cả đánh giá truy xuất và trả lời.
Những gì nó cho thấy
Ví dụ được phát minh ra đã tách biệt hai nguyên nhân mà nếu không sẽ giống như một câu trả lời sai.
Triển khai trong thế giới thực
Trả lời câu hỏi hỗ trợ bằng cách sử dụng chính sách hiện tại và ngày có hiệu lực của chính sách đó.
Trả lại các đoạn nguồn cùng với lời giải thích để người đọc có thể xác minh nó.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Chi phí và ngân sách. Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
- Quyết định rõ ràng hơn. Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
- Kiểm soát chất lượng. Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
coi chừng
- Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
- Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
- Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Các bước tiếp theo
- Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
- Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
- Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
- Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Nguồn tham khảo và đọc thêm
- Lewis and colleaguesThế hệ tăng cường truy xuất cho các nhiệm vụ NLP chuyên sâu về tri thức
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Retrieval-Augmented Generation (RAG) quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
RAG có loại bỏ ảo giác không?
Không. Việc truy xuất có thể bỏ lỡ bằng chứng, trả lại tài liệu sai lệch hoặc bị người tạo sử dụng không đúng cách. Câu trả lời cuối cùng vẫn cần đánh giá.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này