Mức độ liên quan cận biên tối đa
Mức độ liên quan cận biên tối đa (MMR) là một phương pháp xếp hạng lại nhằm cân bằng mức độ liên quan của một kết quả với mức độ khác biệt của nó so với các kết quả đã được chọn.
Tổng quan
It matters because pure relevance ranking often returns near-duplicate passages that waste space in a RAG context window.
Lặn sâu
Khi hệ thống tìm kiếm chấm điểm các tài liệu hoàn toàn dựa trên mức độ liên quan đến một truy vấn, các kết quả hàng đầu thường là dư thừa - năm đoạn văn đều nói cùng một điều. MMR, được Carbonell và Goldstein giới thiệu vào năm 1998, đã khắc phục điều này bằng cách chọn từng kết quả một. Ở mỗi bước, nó sẽ chọn ứng cử viên tối đa hóa sự kết hợp có trọng số: lambda nhân mức độ liên quan của nó với truy vấn, trừ (1 trừ lambda) nhân với độ tương tự tối đa của nó với bất kỳ thứ gì đã được chọn. Lambda gần 1 ủng hộ mức độ liên quan thuần túy; gần 0 nó ủng hộ sự đa dạng. Trong thế hệ tăng cường truy xuất, MMR phổ biến để tìm nạp một tập hợp các khối khác nhau để mô hình ngôn ngữ nhìn thấy bằng chứng bổ sung thay vì lặp lại cùng một thực tế, cải thiện phạm vi bao phủ mà không mở rộng ngữ cảnh.
Hiểu biết kỹ thuật
MMR là một thuật toán lặp đi lặp lại. Cả mức độ liên quan và độ tương tự giữa các tài liệu thường được tính là độ tương tự cosine giữa các vectơ nhúng. Công thức tính điểm là: MMR = argmax trên các tài liệu còn lại của [ lambda * sim(doc, query) - (1 - lambda) * max sim(doc, selected) ]. Bởi vì nó đánh giá lại theo tập hợp được chọn ngày càng tăng trong mỗi vòng, nên nó phụ thuộc vào thứ tự và chạy theo các so sánh tương tự gần đúng O(k*n) cho k lượt chọn từ n ứng cử viên.
Tác động chiến lược
Tốc độ và tỷ lệ
Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
Truy cập và tiếp cận
Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
Quyết định rõ ràng hơn
Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
Tương lai của mức độ liên quan cận biên tối đa
MMR vẫn là một mặc định nhẹ trong các máy khách cơ sở dữ liệu vector như LangChain và Chroma, nơi nó được cung cấp dưới dạng chế độ truy xuất một dòng. Các hệ thống trong tương lai ngày càng kết hợp nó với các mục tiêu đa dạng đã học, lựa chọn dựa trên cụm và bộ sắp xếp lại bộ mã hóa chéo để đánh giá tính mới về mặt ngữ nghĩa hơn là khoảng cách cosine. Khi các cửa sổ ngữ cảnh phát triển, trọng tâm sẽ chuyển từ tiết kiệm không gian sang quản lý bằng chứng thực sự bổ sung, giữ cho việc lựa chọn nhận thức được tính đa dạng như MMR có liên quan ngay cả khi năng lực thô dồi dào.
Triển khai trong thế giới thực
Chatbot RAG sử dụng truy xuất MMR để 5 phần trên cùng của nó bao gồm các khía cạnh khác nhau của chính sách thay vì năm cách diễn giải của cùng một đoạn.
Một công cụ tóm tắt nghiên cứu áp dụng MMR để chọn những đoạn văn giảm thiểu sự trùng lặp, tạo ra một bản tóm tắt rộng hơn, ít lặp lại hơn.
Một công cụ tổng hợp tin tức xếp hạng các bài báo có MMR để hiển thị mức độ đưa tin đa dạng về một sự kiện thay vì mười tờ báo lặp lại một câu chuyện trên mạng.
Công cụ truy xuất cửa hàng vectơ của LangChain hiển thị search_type='mmr' với hàm tìm nạp_k và lambda_mult để đa dạng hóa các tài liệu được trả về.
Rủi ro & lan can
Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Lộ trình thực hiện
Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Maximum Marginal Relevance quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Ức chế không tối đa
Câu hỏi thường gặp
What is Maximum Marginal Relevance?
Mức độ liên quan cận biên tối đa (MMR) là một phương pháp xếp hạng lại nhằm cân bằng mức độ liên quan của một kết quả với mức độ khác biệt của nó so với các kết quả đã được chọn. Điều này quan trọng vì xếp hạng mức độ liên quan thuần túy thường trả về các đoạn gần như trùng lặp gây lãng phí không gian trong cửa sổ ngữ cảnh RAG.
Vấn đề chính MMR được thiết kế để giải quyết là gì?
MMR giải quyết xu hướng chỉ xếp hạng mức độ liên quan để đưa ra nhiều kết quả về cơ bản giống nhau bằng cách khen thưởng tính mới.
Trong công thức MMR, giá trị lambda gần bằng 1 nhấn mạnh điều gì?
Mức độ liên quan của trọng lượng Lambda; gần 1 thì thuật ngữ liên quan chiếm ưu thế, trong khi gần 0 thì thuật ngữ đa dạng (độ tương tự thấp) chiếm ưu thế.
MMR chọn kết quả của nó như thế nào?
MMR là một phương pháp lặp đi lặp lại: mỗi lựa chọn tối đa hóa mức độ liên quan trừ đi độ tương tự tối đa với các mục đã được chọn.
Biện pháp tương tự nào được sử dụng phổ biến nhất trong MMR để nhúng văn bản?
Độ tương tự cosine giữa các vectơ nhúng là lựa chọn tiêu chuẩn cho cả mức độ liên quan của truy vấn và so sánh giữa các tài liệu trong MMR.
Tại sao MMR đặc biệt hữu ích trong thế hệ tăng cường truy xuất (RAG)?
Bằng cách đa dạng hóa các khối được truy xuất, MMR giúp mô hình nhìn thấy các bằng chứng khác nhau thay vì lặp lại cùng một sự kiện, cải thiện phạm vi bao phủ.