개요
MMR(최대 주변 관련성)은 결과의 관련성과 이미 선택한 결과와의 차이점의 균형을 맞추는 재순위 방법입니다. 순수 관련성 순위는 종종 RAG 컨텍스트 창에서 공간을 낭비하는 거의 중복된 구절을 반환하기 때문에 중요합니다.
최대 한계 관련성은 대규모로 텍스트와 음성을 읽고, 생성하고, 분류하고, 변환하는 데 사용되는 언어 AI 스택의 일부입니다.
심층 분석
검색 시스템이 순전히 쿼리 관련성에 따라 문서의 점수를 매길 때 최상위 결과는 중복되는 경우가 많습니다. 즉, 5개의 구절이 모두 같은 내용을 말하고 있습니다. 1998년 Carbonell과 Goldstein이 도입한 MMR은 한 번에 하나씩 결과를 선택하여 이 문제를 해결합니다. 각 단계에서 가중치 혼합을 최대화하는 후보를 선택합니다. 즉, 람다에 쿼리와의 관련성을 곱하고 이미 선택된 항목과의 최대 유사성을 빼기(1 - 람다)에 곱합니다. 1에 가까운 람다는 순수한 관련성을 선호합니다. 0에 가까울수록 다양성을 선호합니다. 검색 증강 생성에서 MMR은 다양한 청크 세트를 가져오는 데 널리 사용되므로 언어 모델은 동일한 사실이 반복되는 대신 보완적인 증거를 확인하여 컨텍스트를 확대하지 않고 적용 범위를 향상시킵니다.
기술적 통찰력
MMR은 탐욕적이고 반복적인 알고리즘입니다. 관련성과 문서 간 유사성은 일반적으로 임베딩 벡터 간의 코사인 유사성으로 계산됩니다. 채점 공식은 다음과 같습니다. [lambda * sim(doc, query) - (1 -lamda) * max sim(doc, selected) ]의 나머지 문서에 대한 MMR = argmax입니다. 매 라운드마다 증가하는 선택된 세트에 대해 재평가하기 때문에 순서에 따라 다르며 n 후보의 k 선택에 대해 대략 O(k*n) 유사성 비교로 실행됩니다.
최대 한계 관련성을 마스터하기
MMR(최대 주변 관련성)은 결과의 관련성과 이미 선택한 결과와의 차이점의 균형을 맞추는 재순위 방법입니다. 순수 관련성 순위는 종종 RAG 컨텍스트 창에서 공간을 낭비하는 거의 중복된 구절을 반환하기 때문에 중요합니다. 최대 한계 관련성은 대규모로 텍스트와 음성을 읽고, 생성하고, 분류하고, 변환하는 데 사용되는 언어 AI 스택의 일부입니다. 깊은 이해를 구축하려면 최대 한계 관련성을 단일 기능이 아닌 운영 모델로 취급하십시오. 원하는 결과를 정의하고, 가정을 명확히 하고, 시스템이 안정적으로 수행할 수 있는 작업과 여전히 전문가 판단이 필요한 작업을 분리하세요.
실제로 최대 한계 관련성 디자인 프롬프트, 검색 및 검토 루프를 하나의 통합 커뮤니케이션 시스템으로 사용하는 강력한 팀입니다. 명시적인 성공 기준을 문서화하고, 현실적인 데이터 및 워크플로를 기준으로 테스트하며, 일회성 벤치마크 승리보다는 관찰된 실패 패턴을 기반으로 반복합니다. 이론적 이해가 제품, 정책, 운영 전반에 걸쳐 지속 가능한 역량으로 바뀌는 곳입니다.
일관성을 유지하면서 언어 워크플로를 더 빠르게 진행할 수 있습니다. 동시에 환각 사실은 보고서, 지원 흐름 또는 연구 결과에 조용히 포함될 수 있습니다. 가장 탄력적인 접근 방식은 실험 속도와 거버넌스 규율을 결합하는 것입니다. 즉, 파일럿 실행, 증거 캡처, 결정 로그 게시, 모델 동작, 사용자 기대 및 규제 요구 사항이 발전함에 따라 보호 장치를 지속적으로 업데이트합니다.
전략적 영향
일관성을 유지하면서 언어 워크플로를 더 빠르게 진행할 수 있습니다.
일관성을 유지하면서 언어 워크플로를 더 빠르게 진행할 수 있습니다. 고품질 배포에서는 이는 측정 가능한 운영 규칙, 소유권 경계 및 반복적인 검토 의식으로 변환되므로 팀은 모호성을 확장하는 대신 자신감을 확장할 수 있습니다.
언어와 의사소통 스타일 전반에 걸쳐 접근성을 확장합니다.
언어와 의사소통 스타일 전반에 걸쳐 접근성을 확장합니다. 고품질 배포에서는 이는 측정 가능한 운영 규칙, 소유권 경계 및 반복적인 검토 의식으로 변환되므로 팀은 모호성을 확장하는 대신 자신감을 확장할 수 있습니다.
자동화가 반복을 처리하는 동안 팀은 판단에 더 많은 시간을 할애할 수 있습니다.
자동화가 반복을 처리하는 동안 팀은 판단에 더 많은 시간을 할애할 수 있습니다. 고품질 배포에서는 이는 측정 가능한 운영 규칙, 소유권 경계 및 반복적인 검토 의식으로 변환되므로 팀은 모호성을 확장하는 대신 자신감을 확장할 수 있습니다.
실제 구현
RAG 챗봇은 MMR 검색을 사용하므로 상위 5개 청크는 동일한 단락의 5개 의역 대신 정책의 다양한 측면을 다룹니다.
연구 요약 도구는 MMR을 적용하여 중복을 최소화하는 구절을 선택하여 더 광범위하고 덜 반복적인 요약을 생성합니다.
뉴스 애그리게이터는 MMR을 사용하여 기사 순위를 매겨 10개의 매체에서 하나의 뉴스를 반복하는 대신 이벤트에 대한 다양한 보도를 표시합니다.
LangChain의 벡터 저장소 검색기는 반환된 문서를 다양화하기 위해 fetch_k 및lambda_mult와 함께 search_type='mmr'을 노출합니다.
구현 패턴
실제로 최대 한계 관련성
RAG 챗봇은 MMR 검색을 사용하므로 상위 5개 청크는 동일한 단락의 5개 의역 대신 정책의 다양한 측면을 다룹니다.
RAG 챗봇은 MMR 검색을 사용하므로 상위 5개 청크는 동일한 단락의 5개 의역 대신 정책의 다양한 측면을 다루게 됩니다. 팀은 일반적으로 품질 임계값을 미리 정의하고, 극단적인 경우에 대한 인적 에스컬레이션 경로를 유지하고, 시간이 지남에 따라 생산성 향상과 오류 비용을 모두 추적할 때 더 나은 결과를 얻습니다.
실제로 최대 한계 관련성
연구 요약 도구는 MMR을 적용하여 중복을 최소화하는 구절을 선택하여 더 광범위하고 덜 반복적인 요약을 생성합니다.
연구 요약 도구는 MMR을 적용하여 중복을 최소화하는 구절을 선택하여 더 광범위하고 덜 반복적인 요약을 생성합니다. 팀은 일반적으로 품질 임계값을 미리 정의하고, 극단적인 경우에 대한 인적 에스컬레이션 경로를 유지하고, 시간이 지남에 따라 생산성 향상과 오류 비용을 모두 추적할 때 더 나은 결과를 얻습니다.
실제로 최대 한계 관련성
뉴스 애그리게이터는 MMR을 사용하여 기사 순위를 매겨 10개의 매체에서 하나의 뉴스를 반복하는 대신 이벤트에 대한 다양한 보도를 표시합니다.
뉴스 애그리게이터는 MMR을 사용하여 기사 순위를 매겨 10개의 매체에서 하나의 와이어 스토리를 반복하는 대신 이벤트에 대한 다양한 보도를 보여줍니다. 팀은 일반적으로 품질 임계값을 미리 정의하고, 극단적인 경우에 대한 인적 에스컬레이션 경로를 유지하고, 시간이 지남에 따라 생산성 향상과 오류 비용을 모두 추적할 때 더 나은 결과를 얻습니다.
실제로 최대 한계 관련성
LangChain의 벡터 저장소 검색기는 반환된 문서를 다양화하기 위해 fetch_k 및lambda_mult와 함께 search_type='mmr'을 노출합니다.
LangChain의 벡터 저장소 검색기는 반환된 문서를 다양화하기 위해 fetch_k 및lambda_mult와 함께 search_type='mmr'을 노출합니다. 팀은 일반적으로 품질 임계값을 미리 정의하고, 극단적인 경우에 대한 인적 에스컬레이션 경로를 유지하고, 시간이 지남에 따라 생산성 향상과 오류 비용을 모두 추적할 때 더 나은 결과를 얻습니다.
위험 및 가드레일
환각 사실은 보고서, 지원 흐름 또는 연구 결과에 조용히 포함될 수 있습니다.
신속한 민감도는 유사한 요청 간에 일관되지 않은 결과를 초래할 수 있습니다.
액세스 제어가 약한 경우 민감한 텍스트 데이터가 노출될 수 있습니다.
구현 로드맵
출시 전에 출력 형식, 톤, 품질 표준을 정의하세요.
출시 전에 출력 형식, 톤, 품질 표준을 정의하세요. 각 단계를 증거 게이트로 처리합니다. 기준이 충족되지 않으면 롤아웃을 일시 중지하고 간격을 좁힌 다음 사용을 확장합니다.
정확성이 중요할 때마다 신뢰할 수 있는 출처를 통해 대응하세요.
정확성이 중요할 때마다 신뢰할 수 있는 출처를 통해 대응하세요. 각 단계를 증거 게이트로 처리합니다. 기준이 충족되지 않으면 롤아웃을 일시 중지하고 간격을 좁힌 다음 사용을 확장합니다.
고위험 결과물에 대한 인적 검토 체크포인트를 유지합니다.
고위험 결과물에 대한 인적 검토 체크포인트를 유지합니다. 각 단계를 증거 게이트로 처리합니다. 기준이 충족되지 않으면 롤아웃을 일시 중지하고 간격을 좁힌 다음 사용을 확장합니다.
실패 패턴을 추적하고 프롬프트나 워크플로를 정기적으로 재교육하세요.
실패 패턴을 추적하고 프롬프트나 워크플로를 정기적으로 재교육하세요. 각 단계를 증거 게이트로 처리합니다. 기준이 충족되지 않으면 롤아웃을 일시 중지하고 간격을 좁힌 다음 사용을 확장합니다.