接地和引用
接地將人工智慧的答案與特定的來源文件聯繫起來，而不是讓它僅根據記憶進行回答，並且引用準確地顯示了支持每個主張的來源。
概述
Together they make answers verifiable and dramatically reduce confident-sounding fabrications.
深入探討
大型語言模型可以根據學習的模式產生流暢的文本，這意味著它們可以完全自信地陳述錯誤的主張。接地透過在回答時向模型提供真實的來源資料（通常從搜尋索引、知識庫或上傳的文件中檢索）來解決此問題，並指示它僅從該資料中進行回答。引文是收據：答案的跨度鏈接回支持它們的確切段落，通常作為腳註標記或突出顯示的片段。這種配對是檢索增強生成（RAG）和搜尋式助手的支柱。如果做得好，用戶可以點擊引文，閱讀原始句子，並確認模型沒有發明該聲明。相較之下，沒有根據的答案在設計上是無法驗證的。
技術洞察
典型的管道將問題嵌入向量中，從向量或關鍵字索引中檢索最相似的段落，並將這些段落作為上下文插入到提示中。模型被告知要內聯引用段落 ID。單獨的驗證步驟可以使用字串匹配或更小的蘊涵模型來重新檢查每個引用的跨度是否確實蘊含該聲明。好的系統也會顯示「在來源中找不到」答案，而不是猜測檢索何時回傳任何相關內容。
戰略影響
速度與規模
語言工作流程可以在不犧牲一致性的情況下更快地移動。
交通與覆蓋範圍
它擴展了跨語言和溝通方式的訪問。
更明確的決策
團隊可以花更多時間進行判斷，而自動化則可以處理重複。
接地和引文的未來
預計引文會變得更細粒度，指向精確的句子甚至子條款，而不是整個文檔，並附有置信度分數。自動「歸因檢查」正在從研究轉向產品，在展示之前根據其引用的來源驗證每個句子。機器可讀來源的標準以及法律、醫療和金融環境中的監管壓力可能會使未引用的生成答案對於高風險的使用來說是不可接受的，從而將基礎從一項功能推向預設期望。
現實世界的實施
法律研究助理，回答有關判例法的問題，並將每個陳述與所引用裁決的特定段落聯繫起來
客戶支援機器人僅從公司的幫助中心文章中進行回答，並在每個回應旁邊顯示來源文章
一種醫學文獻工具，透過指向特定 PubMed 摘要的腳註總結治療證據
透過內部 wiki 的企業搜尋助手，引用支持每個答案的確切文件和部分
風險與防護欄
幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
及時的敏感性可能會在類似的請求中產生不一致的結果。
如果存取控制薄弱，敏感文字資料可能會暴露。
實施路線圖
在推出之前定義輸出格式、語氣和品質標準。
當準確性很重要時，請使用可信任來源進行地面回應。
為高風險輸出保留人工審查檢查點。
追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Grounding and Citations quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Grounding and Citations?
接地將人工智慧的答案與特定的來源文件聯繫起來，而不是讓它僅根據記憶進行回答，並且引用準確地顯示了支持每個主張的來源。它們共同使答案變得可驗證，並大大減少聽起來自信的捏造。
「紮根」人工智慧答案的主要目的是什麼？
接地在回答時為模型提供真實的來源材料，並要求模型僅根據該材料進行回答，從而使聲明可驗證。
引文在接地系統中扮演什麼角色？
引文充當收據，將每個聲明連結到特定的來源段落，以便用戶可以驗證它。
接地和引用是哪種常見技術的支柱？
RAG 檢索相關段落並將其插入提示中，以便模型可以回答並引用真實來源。
在一個設計良好的接地系統中，如果檢索沒有找到相關來源，會發生什麼情況？
強大的系統會回答“在來源中找不到”，而不是在未檢索任何相關內容時編造答案。
為什麼不接地氣的人工智慧答案被認為很難被信任用於高風險用途？
如果沒有接地，就沒有來源可查，因此無法獨立驗證說法。