代理RAG
Agentic RAG 通过让代理在回答之前决定搜索的时间、内容和次数来升级普通的检索增强生成。
概述
Instead of one fixed lookup, it reasons, retrieves, and refines in a loop.
深入探讨
经典的检索增强生成(RAG)只做一件事:接受用户的问题,从矢量存储中获取一些相关文档,并将它们填充到提示中。 Agentic RAG 使检索成为一项主动决策。代理首先会推理是否需要搜索、使用什么查询以及要查询哪个源。它可以将一个难题分解为子问题,对每个子问题进行检索,评估结果是否足够,如果不足够,则使用细化查询再次搜索。它可以根据问题在多个知识库之间路由、调用网络搜索或使用 SQL 数据库。这种迭代的工具选择行为可以处理多跳问题(“我们在德克萨斯州的哪些客户在政策更改后注册了?”),而单次 RAG 的回答效果很差,代价是更多的模型调用和延迟。
技术洞察
代理将猎犬视为工具。在每一轮中,它都可以选择一个检索操作,检查返回的块,判断它们的相关性,并决定使用重新制定的请求来回答或再次查询。具有停止条件(足够的证据或步骤限制)的循环控制迭代。一些设计添加了一个分级步骤,可以在生成之前过滤掉不相关的检索块,从而减少模型被偏离主题的上下文误导的机会。
战略影响
构建选择
应用级设计决定了人工智能是否能改善实际结果。
团队与工作流程
良好的工作流程集成可以创造用户值得信赖的生产力收益。
风险与安全
范围明确的用例可以减少变更疲劳和实施风险。
Agentic RAG 的未来
Agentic RAG 正在与更广泛的代理框架融合:检索与计算器、代码执行和 API 一起成为众多工具中的一种。期望更智能的查询规划、检索证据的自我分级以及过去检索的缓存以降低成本。更好的源路由将允许一个代理从内部文档、网络和结构化数据库中获取单一答案。主要的压力,准确性与延迟和费用,将推动自适应系统仅在问题确实需要时才使用大量的多步骤检索。
现实世界的实施
企业助手,根据问题决定是否查询HR手册、代码库wiki或SQL销售数据库。
一个研究助手,将“比较药物 A 和药物 B 的副作用”分为两次搜索,分别检索,然后进行综合。
支持机器人检索文档,判断文档是否不足,重新制定查询,并在回复之前再次搜索。
一种执行多跳检索、查找条款,然后搜索其引用的法规的法律工具。
风险与防护栏
将损坏的流程自动化可能会加剧现有问题。
团队可能会过度自动化并消除所需的人工判断。
如果不持续评估输出,质量可能会出现偏差。
实施路线图
绘制当前工作流程并确定摩擦最大的步骤。
在完全自动化之前定义人工检查点。
对用户进行提示、升级路径和质量标准方面的培训。
跟踪任务级结果以确认持续价值。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Agentic RAG quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Agentic RAG?
Agentic RAG 通过让代理在回答之前决定搜索的时间、内容和次数来升级普通的检索增强生成。它不是一次固定的查找,而是循环推理、检索和细化。
代理 RAG 和经典 RAG 之间的主要区别是什么?
经典 RAG 执行一次固定查找;代理 RAG 使检索成为由代理控制的主动、迭代决策。
代理 RAG 如何处理困难的多跳问题?
分解子问题并检索每个子问题的证据是 Agentic RAG 的核心优势。
在代理 RAG 中,对于代理来说,检索器最好的描述是什么?
代理将每个检索器视为一个工具,并决定在每个回合是否以及如何使用它。
可选的“分级”步骤在 Agentic RAG 中起什么作用?
对检索到的块的相关性进行分级可以降低偏离主题的上下文误导模型的风险。
与单次 RAG 相比,代理 RAG 的主要成本是多少?
迭代推理和重复检索可以改善答案,但会增加延迟和费用。