概述
这些批评可以指导生成，但它们是模型预测，而不是答案正确的独立证明。
深入探讨
由 Asai 及其同事于 2023 年提出的 Self-RAG 将生成与学习到的检索和批评决策交织在一起。检索词元指示是否应获取外部 passages。IsRelevant 评估 passage 的相关性；IsSupported 预测生成的片段是否受支持；IsUseful 评估响应的实用性。该方法可以在生成进行的同时做出检索决策，而不是对整个响应仅使用一个固定的检索步骤。它在论文中与固定检索基线进行了比较，但这并不证明其他每个 RAG 系统总是检索或从不检查证据。批评会影响候选选择，并可以在所研究的场景中改善结果，但预测的支持度可能是错误的，仍需进行评估。
现实世界的实施
将自适应检索与针对每个输入都进行检索的基线进行比较。
使用预测的段落相关性来对替代证据上下文进行评分。
在选择生成的答案片段时对预测的支持度进行加权。
针对独立检查的参考标准评估支持判断。
Self-RAG 和反思检索的未来
反射检索与代理 RAG 相融合，其中模型计划多步骤搜索、调用工具以及跨迭代的自我纠正。期望自我批评与验证者模型、知识图谱检索以及强化学习的更紧密结合，奖励忠实的、被广泛引用的答案。随着推理模型的成熟，按需和自我评估的检索很可能成为一种默认行为，而不是一个单独的框架，模型动态地决定每个主张需要多少证据。
付诸实践
为什么这很重要
- 速度与规模. 语言工作流程可以在不牺牲一致性的情况下更快地移动。
- 交通与覆盖范围. 它扩展了跨语言和沟通方式的访问。
- 更清晰的判决. 团队可以花更多时间进行判断，而自动化则可以处理重复。
留意
- 幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
- 及时的敏感性可能会在类似的请求中产生不一致的结果。
- 如果访问控制薄弱，敏感文本数据可能会暴露。
后续步骤
- 在推出之前定义输出格式、语气和质量标准。
- 当准确性很重要时，请使用可信来源进行地面响应。
- 为高风险输出保留人工审查检查点。
- 跟踪故障模式并定期重新训练提示或工作流程。
不断探索
常见问题
什么是 Self-RAG 和反射检索？
Self-RAG 能够学习何时进行检索，并使用反思标记（reflection tokens）来评估段落和生成的片段。这些评估可以指导生成过程，但它们只是模型的预测，而非答案正确的独立证明。
与针对每个输入都进行检索的基准方法相比，Self-RAG 学习到了什么样的自适应决策？
检索标记（Retrieve tokens）支持自适应检索。其他 RAG 设计也可能是自适应的，因此这种对比仅限于固定检索的基准方法。
Self-RAG 中的“反射令牌”是什么？
IsRelevant、IsSupported 和 IsUseful 等反射标记让模型能够批判段落及其自身的输出。
Self-RAG 的 IsSupported 反思标记预测的是什么？
该标记是模型生成的支持判断，可以指导生成过程，但也可能出错。
通常如何训练 Self-RAG 模型来生成反射标记？
Self-RAG 从用反射标记注释的训练数据中学习，这些数据通常由更强大的教师模型（例如 GPT-4）生成。
对每个段落发出“IsRelevant”批评有什么好处？
通过批评每个段落的相关性，Self-RAG 可以忽略偏离主题的检索，而不是将它们塞入答案中。