Self-RAG 和反射检索
Self-RAG 是一个框架，其中语言模型决定何时检索，然后使用特殊的反射标记批评检索到的段落及其自己的输出。
概述
It matters because it makes retrieval-augmented generation adaptive and self-checking instead of blindly fetching documents for every query.
深入探讨
标准 RAG 为每个输入检索固定数量的段落，即使不需要任何段落，并且从不验证答案是否实际上受支持。 Self-RAG 由 Asai 及其同事于 2023 年推出，可训练单个模型按需完成三件事。首先，它发出一个“检索”令牌来决定是否需要外部知识。其次，检索后，它会发出“IsRelevant”评论标记来判断每个段落是否有帮助。第三，它生成“IsSupported”和“IsUseful”标记，评估其自己的陈述是否基于证据以及响应有多好。这些反射令牌让系统仅在有保证时才进行检索，过滤不相关的段落，并优先选择模型本身评级为良好支持的输出，从而减少幻觉。
技术洞察
Self-RAG 通过监督学习对标有反射标记的数据进行训练，这些数据通常是从 GPT-4 等更强大的模型中提取出来的。在推理时，模型将普通文本标记与这些特殊控制标记交织在一起。然后，分段级波束搜索可以使用批判标记的概率对候选延续进行评分，让开发人员在运行时调整行为 - 例如，更重地加权“IsSupported”以最大化事实基础与流畅性。
战略影响
速度与规模
语言工作流程可以在不牺牲一致性的情况下更快地移动。
交通与覆盖范围
它扩展了跨语言和沟通方式的访问。
更清晰的判决
团队可以花更多时间进行判断，而自动化则可以处理重复。
Self-RAG 和反思检索的未来
反射检索与代理 RAG 相融合，其中模型计划多步骤搜索、调用工具以及跨迭代的自我纠正。期望自我批评与验证者模型、知识图谱检索以及强化学习的更紧密结合，奖励忠实的、被广泛引用的答案。随着推理模型的成熟，按需和自我评估的检索很可能成为一种默认行为，而不是一个单独的框架，模型动态地决定每个主张需要多少证据。
现实世界的实施
医疗问答助理使用其“检索”决策令牌仅检索临床问题的指南并跳过问候语的检索。
研究助理在写作前检查每个段落的“IsRelevant”评论，过滤掉偏离主题的搜索结果。
企业聊天机器人更喜欢标记为“IsSupported”的答案，因此其声明以公司文件为基础，从而减少幻觉。
事实检查工具使用“IsUseful”分数对多个候选答案进行排名，并显示最有证据的答案。
风险与防护栏
幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
及时的敏感性可能会在类似的请求中产生不一致的结果。
如果访问控制薄弱，敏感文本数据可能会暴露。
实施路线图
在推出之前定义输出格式、语气和质量标准。
当准确性很重要时，请使用可信来源进行地面响应。
为高风险输出保留人工审查检查点。
跟踪故障模式并定期重新训练提示或工作流程。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-RAG and Reflective Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Self-RAG and Reflective Retrieval?
Self-RAG 是一个框架，其中语言模型决定何时检索，然后使用特殊的反射标记批评检索到的段落及其自己的输出。这很重要，因为它使检索增强生成具有自适应性和自我检查性，而不是盲目地为每个查询获取文档。
Self-RAG 做出了哪些标准 RAG 没有做出的关键决策？
Self-RAG 发出一个“检索”令牌来根据需要决定是否需要外部文档，而不是总是检索。
Self-RAG 中的“反射令牌”是什么？
IsRelevant、IsSupported 和 IsUseful 等反射标记让模型能够批判段落及其自身的输出。
哪个反射标记评估生成的陈述是否基于检索到的证据？
IsSupported 标记判断模型的主张是否确实得到检索到的段落的支持，有助于减少幻觉。
通常如何训练 Self-RAG 模型来生成反射标记？
Self-RAG 从用反射标记注释的训练数据中学习，这些数据通常由更强大的教师模型（例如 GPT-4）生成。
对每个段落发出“IsRelevant”批评有什么好处？
通过批评每个段落的相关性，Self-RAG 可以忽略偏离主题的检索，而不是将它们塞入答案中。