接地和引用
接地将人工智能的答案与特定的源文档联系起来，而不是让它仅根据记忆进行回答，并且引用准确地显示了支持每个主张的来源。
概述
Together they make answers verifiable and dramatically reduce confident-sounding fabrications.
深入探讨
大型语言模型可以根据学习的模式生成流畅的文本，这意味着它们可以完全自信地陈述错误的主张。接地通过在回答时向模型提供真实的源材料（通常从搜索索引、知识库或上传的文档中检索）来解决此问题，并指示它仅从该材料中进行回答。引文是收据：答案的跨度链接回支持它们的确切段落，通常作为脚注标记或突出显示的片段。这种配对是检索增强生成（RAG）和搜索式助手的支柱。如果做得好，用户可以单击引文，阅读原始句子，并确认模型没有发明该声明。相比之下，没有根据的答案在设计上是无法验证的。
技术洞察
典型的管道将问题嵌入到向量中，从向量或关键字索引中检索最相似的段落，并将这些段落作为上下文插入到提示中。该模型被告知要内联引用段落 ID。单独的验证步骤可以使用字符串匹配或更小的蕴涵模型来重新检查每个引用的跨度是否确实蕴含该声明。好的系统还会显示“在来源中未找到”答案，而不是猜测检索何时返回任何相关内容。
战略影响
速度与规模
语言工作流程可以在不牺牲一致性的情况下更快地移动。
交通与覆盖范围
它扩展了跨语言和沟通方式的访问。
更清晰的判决
团队可以花更多时间进行判断，而自动化则可以处理重复。
接地和引文的未来
预计引文会变得更细粒度，指向精确的句子甚至子条款，而不是整个文档，并附有置信度分数。自动“归因检查”正在从研究转向产品，在展示之前根据其引用的来源验证每个句子。机器可读来源的标准以及法律、医疗和金融环境中的监管压力可能会使未引用的生成答案对于高风险的使用来说是不可接受的，从而将基础从一项功能推向默认期望。
现实世界的实施
法律研究助理，回答有关判例法的问题，并将每条陈述与所引用裁决的特定段落联系起来
客户支持机器人仅从公司的帮助中心文章中进行回答，并在每个回复旁边显示源文章
一种医学文献工具，通过指向特定 PubMed 摘要的脚注总结治疗证据
通过内部 wiki 的企业搜索助手，引用支持每个答案的确切文档和部分
风险与防护栏
幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
及时的敏感性可能会在类似的请求中产生不一致的结果。
如果访问控制薄弱，敏感文本数据可能会暴露。
实施路线图
在推出之前定义输出格式、语气和质量标准。
当准确性很重要时，请使用可信来源进行地面响应。
为高风险输出保留人工审查检查点。
跟踪故障模式并定期重新训练提示或工作流程。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Grounding and Citations quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Grounding and Citations?
接地将人工智能的答案与特定的源文档联系起来，而不是让它仅根据记忆进行回答，并且引用准确地显示了支持每个主张的来源。它们共同使答案变得可验证，并大大减少听起来自信的捏造。
“扎根”人工智能答案的主要目的是什么？
接地在回答时为模型提供真实的源材料，并要求模型仅根据该材料进行回答，从而使声明可验证。
引文在接地系统中扮演什么角色？
引文充当收据，将每个声明链接到特定的来源段落，以便用户可以验证它。
接地和引用是哪种常见技术的支柱？
RAG 检索相关段落并将其插入提示中，以便模型可以回答并引用真实来源。
在一个设计良好的接地系统中，如果检索没有找到相关来源，会发生什么情况？
强大的系统会回答“在来源中找不到”，而不是在未检索到任何相关内容时编造答案。
为什么不接地气的人工智能答案被认为很难被信任用于高风险用途？
如果没有接地，就没有来源可查，因此无法独立验证说法。