Self-RAG 與反射檢索
Self-RAG 是一個框架，其中語言模型決定何時檢索，然後使用特殊的反射標記批評檢索到的段落及其自己的輸出。
概述
It matters because it makes retrieval-augmented generation adaptive and self-checking instead of blindly fetching documents for every query.
深入探討
標準 RAG 為每個輸入檢索固定數量的段落，即使不需要任何段落，並且從不驗證答案是否實際上受支援。 Self-RAG 由 Asai 及其同事於 2023 年推出，可訓練單一模型按需完成三件事。首先，它發出一個「檢索」令牌來決定是否需要外部知識。其次，檢索後，它會發出“IsRelevant”評論標記來判斷每個段落是否有幫助。第三，它產生「IsSupported」和「IsUseful」標記，評估其自己的陳述是否基於證據以及回應有多好。這些反射令牌讓系統僅在有保證時才進行檢索，過濾不相關的段落，並優先選擇模型本身評級為良好支持的輸出，從而減少幻覺。
技術洞察
Self-RAG 透過監督學習對標有反射標記的資料進行訓練，這些資料通常是從 GPT-4 等更強大的模型中提取出來的。在推理時，模型將普通文本標記與這些特殊控制標記交織在一起。然後，分段級波束搜尋可以使用批判標記的機率對候選延續進行評分，讓開發人員在運行時調整行為 - 例如，更重地加權「IsSupported」以最大化事實基礎與流暢性。
戰略影響
速度與規模
語言工作流程可以在不犧牲一致性的情況下更快地移動。
交通與覆蓋範圍
它擴展了跨語言和溝通方式的訪問。
更明確的決策
團隊可以花更多時間進行判斷，而自動化則可以處理重複。
Self-RAG 與反思檢索的未來
反射檢索與代理 RAG 相融合，其中模型計劃多步驟搜尋、呼叫工具以及跨迭代的自我修正。期望自我批評與驗證者模型、知識圖譜檢索以及強化學習的更緊密結合，獎勵忠實的、被廣泛引用的答案。隨著推理模型的成熟，按需和自我評估的檢索很可能成為一種預設行為，而不是一個單獨的框架，模型動態地決定每個主張需要多少證據。
現實世界的實施
醫療問答助理使用其“檢索”決策令牌僅檢索臨床問題的指南並跳過問候語的檢索。
研究助理在寫作前檢查每個段落的「IsRelevant」評論，過濾掉偏離主題的搜尋結果。
企業聊天機器人更喜歡標記為「IsSupported」的答案，因此其聲明以公司文件為基礎，從而減少幻覺。
事實檢查工具使用「IsUseful」分數對多個候選答案進行排名，並顯示最有證據的答案。
風險與防護欄
幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
及時的敏感性可能會在類似的請求中產生不一致的結果。
如果存取控制薄弱，敏感文字資料可能會暴露。
實施路線圖
在推出之前定義輸出格式、語氣和品質標準。
當準確性很重要時，請使用可信任來源進行地面回應。
為高風險輸出保留人工審查檢查點。
追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-RAG and Reflective Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Self-RAG and Reflective Retrieval?
Self-RAG 是一個框架，其中語言模型決定何時檢索，然後使用特殊的反射標記批評檢索到的段落及其自己的輸出。這很重要，因為它使檢索增強生成具有自適應性和自我檢查性，而不是盲目地為每個查詢獲取文件。
Self-RAG 做出了哪些標準 RAG 沒有做出的關鍵決策？
Self-RAG 發出一個「檢索」令牌來根據需要決定是否需要外部文檔，而不是總是檢索。
Self-RAG 中的「反射令牌」是什麼？
IsRelevant、IsSupported 和 IsUseful 等反射標記讓模型能夠批判段落及其自身的輸出。
哪一個反射標記評估產生的陳述是否基於檢索到的證據？
IsSupported 標記判斷模型的主張是否確實得到檢索到的段落的支持，有助於減少幻覺。
通常如何訓練 Self-RAG 模型來產生反射標記？
Self-RAG 從反射標記註釋的訓練資料中學習，這些資料通常由更強大的教師模型（例如 GPT-4）產生。
對每個段落發出“IsRelevant”批評有什麼好處？
透過批評每個段落的相關性，Self-RAG 可以忽略偏離主題的檢索，而不是將它們塞入答案中。