概述
這些評論可以引導生成過程,但它們只是模型預測,並非答案正確的獨立證明。
深入探討
由 Asai 等人在 2023 年提出的 Self-RAG,將生成過程與學習到的檢索及評論決策交織在一起。Retrieve 標記指示是否應獲取外部段落;IsRelevant 評估段落的相關性;IsSupported 預測生成的片段是否得到支援;IsUseful 評估回應的實用性。該方法可以在生成過程中進行檢索決策,而不是對整個回應僅使用一個固定的檢索步驟。論文中將其與固定檢索基準進行了比較,這並不代表其他所有 RAG 系統總是進行檢索或從不檢查證據。評論會影響候選內容的選擇,並可在研究設定中改善結果,但預測的支援度可能會出錯,仍需進行評估。
現實世界的實施
將自適應檢索與針對每個輸入都進行檢索的基準模型進行比較。
使用預測的段落相關性來為替代的證據上下文評分。
在選擇生成的答案片段時,對預測的支援度進行加權。
根據獨立檢查的參考資料來評估支援度判斷。
Self-RAG 與反思檢索的未來
反射檢索與代理 RAG 相融合,其中模型計劃多步驟搜尋、呼叫工具以及跨迭代的自我修正。期望自我批評與驗證者模型、知識圖譜檢索以及強化學習的更緊密結合,獎勵忠實的、被廣泛引用的答案。隨著推理模型的成熟,按需和自我評估的檢索很可能成為一種預設行為,而不是一個單獨的框架,模型動態地決定每個主張需要多少證據。
付諸實踐
為什麼這很重要
- 速度與規模. 語言工作流程可以在不犧牲一致性的情況下更快地移動。
- 交通與覆蓋範圍. 它擴展了跨語言和溝通方式的訪問。
- 更明確的決策. 團隊可以花更多時間進行判斷,而自動化則可以處理重複。
留意
- 幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
- 及時的敏感性可能會在類似的請求中產生不一致的結果。
- 如果存取控制薄弱,敏感文字資料可能會暴露。
後續步驟
- 在推出之前定義輸出格式、語氣和品質標準。
- 當準確性很重要時,請使用可信任來源進行地面回應。
- 為高風險輸出保留人工審查檢查點。
- 追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
常見問題
什麼是 Self-RAG 和反射檢索?
Self-RAG 會學習何時進行檢索,並使用反思標記來評估段落與生成的片段。這些評論可以引導生成過程,但它們只是模型預測,並非答案正確的獨立證明。
與針對每個輸入都進行檢索的基準模型相比,Self-RAG 學習到了什麼自適應決策?
Retrieve 標記支援自適應檢索。其他 RAG 設計也可能是自適應的,因此此對比僅限於固定檢索基準。
Self-RAG 中的「反射令牌」是什麼?
IsRelevant、IsSupported 和 IsUseful 等反射標記讓模型能夠批判段落及其自身的輸出。
Self-RAG 的 IsSupported 反思標記預測了什麼?
該標記是模型生成的支援度判斷,可以引導生成過程,但可能會出錯。
通常如何訓練 Self-RAG 模型來產生反射標記?
Self-RAG 從反射標記註釋的訓練資料中學習,這些資料通常由更強大的教師模型(例如 GPT-4)產生。
對每個段落發出“IsRelevant”批評有什麼好處?
透過批評每個段落的相關性,Self-RAG 可以忽略偏離主題的檢索,而不是將它們塞入答案中。