引導式測驗 · 硬 等級

推測性 RAG 和檢索增強起草測驗

檢查文件聚類、平行答案草稿、理由產生、驗證者評分以及推測如何改變檢索延遲。

問題 1 的 8

在 Speculative RAG 中,較小的模型扮演什麼角色?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 在 Speculative RAG 中,較小的模型扮演什麼角色?
    • 它從檢索到的文檔子集中起草多個候選答案
    • 它驗證並排名最終答案
    • 它儲存向量資料庫
    • 它只處理標記化
  2. 為什麼檢索到的文件在起草前會聚集在一起?
    • 將它們壓縮成單一令牌
    • 為不同的草稿形成多樣化、非冗餘的證據子集
    • 刪除重複模型
    • 增加模型的詞彙量
  3. 更大的「驗證者」模型主要做什麼?
    • 產生檢索到的文檔
    • 訓練嵌入模型
    • 對候選草稿進行評分並選出最佳草稿
    • 將文件聚類
  4. 與標準 RAG 相比,推測 RAG 如何減少延遲?
    • 完全跳過檢索
    • 透過使用沒有文件的較小上下文視窗
    • 透過快取用戶的問題
    • 透過讓小模型進行並行繪圖,以便大模型僅檢查短草稿
  5. 起草者製作的每份草案通常包括:
    • 解釋答案的理由
    • 一組新的模型權重
    • 全向量索引
    • 所有使用者的列表
  6. 推測性 RAG 的「先草稿後驗證」結構在概念上類似於哪種解碼技術?
    • 束搜索剪枝
    • 推測性解碼
    • 貪婪採樣
    • Top-k過濾
  7. What information can the Speculative RAG verifier use when ranking candidate drafts?
    • Only the length of each document
    • The GPU type and cluster name
    • Draft consistency, rationale likelihood and a self-reflection signal
    • A random choice among the drafts
  8. Why sample documents from different clusters for separate drafts?
    • To ensure every draft sees identical passages
    • To remove all retrieved evidence
    • To make each drafter use a different tokenizer
    • To give the drafts diverse, less-redundant evidence subsets