引導式測驗 · 硬 等級
推測性 RAG 和檢索增強起草測驗
檢查文件聚類、平行答案草稿、理由產生、驗證者評分以及推測如何改變檢索延遲。
問題 1 的 8
在 Speculative RAG 中,較小的模型扮演什麼角色?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 在 Speculative RAG 中,較小的模型扮演什麼角色?
- 它從檢索到的文檔子集中起草多個候選答案
- 它驗證並排名最終答案
- 它儲存向量資料庫
- 它只處理標記化
- 為什麼檢索到的文件在起草前會聚集在一起?
- 將它們壓縮成單一令牌
- 為不同的草稿形成多樣化、非冗餘的證據子集
- 刪除重複模型
- 增加模型的詞彙量
- 更大的「驗證者」模型主要做什麼?
- 產生檢索到的文檔
- 訓練嵌入模型
- 對候選草稿進行評分並選出最佳草稿
- 將文件聚類
- 與標準 RAG 相比,推測 RAG 如何減少延遲?
- 完全跳過檢索
- 透過使用沒有文件的較小上下文視窗
- 透過快取用戶的問題
- 透過讓小模型進行並行繪圖,以便大模型僅檢查短草稿
- 起草者製作的每份草案通常包括:
- 解釋答案的理由
- 一組新的模型權重
- 全向量索引
- 所有使用者的列表
- 推測性 RAG 的「先草稿後驗證」結構在概念上類似於哪種解碼技術?
- 束搜索剪枝
- 推測性解碼
- 貪婪採樣
- Top-k過濾
- What information can the Speculative RAG verifier use when ranking candidate drafts?
- Only the length of each document
- The GPU type and cluster name
- Draft consistency, rationale likelihood and a self-reflection signal
- A random choice among the drafts
- Why sample documents from different clusters for separate drafts?
- To ensure every draft sees identical passages
- To remove all retrieved evidence
- To make each drafter use a different tokenizer
- To give the drafts diverse, less-redundant evidence subsets