引導式測驗 · 中等 等級
ColBERT 後期互動檢索測驗
測試 ColBERT 令牌向量、獨立編碼、MaxSim 評分、查詢時工作以及 ColBERTv2 壓縮解決的儲存成本。
問題 1 的 8
ColBERT 如何表示查詢或文件?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- ColBERT 如何表示查詢或文件?
- 作為單一平均嵌入向量
- 由於原始關鍵字僅計數
- 盡可能多的標記級上下文嵌入向量
- 作為影像
- ColBERT 使用的評分函數叫什麼?
- 最大模擬
- 餘弦池化
- Softmax交叉熵
- 集束搜尋
- What query-time work does ColBERT avoid by precomputing document token vectors?
- All query encoding and all index access
- Every comparison between a query token and document token
- The need to store document representations
- Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
- 「遲到的互動」中的「遲到」指的是什麼?
- 該模型在管道後期進行訓練
- 查詢和文檔標記之間的交互作用被推遲到獨立編碼後的評分步驟
- 查詢在深夜到達
- 部署後新增文檔
- ColBERT 解決了單向量密集檢索的什麼問題?
- 索引太慢
- 它無法在 GPU 上運行
- 每個查詢都需要標記數據
- 將整個段落壓縮為一個向量會失去細粒度的細節
- ColBERTv2 與原始版本相比有哪些顯著改進?
- 它消除了任何嵌入的需要
- 它從 BERT 轉向基於規則的系統
- 它添加了殘差壓縮以大大縮小索引大小
- 它消除了 MaxSim 步驟
- A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
- 0.8, retaining only the single largest value across the whole query
- 1.1, the sum of the two per-query-token maxima
- 0.55, averaging instead of summing the maxima
- 0.24, multiplying the two maxima
- Why can a ColBERT document index require more storage than a single-vector dense index?
- It retains multiple token-level representations for each document
- It never precomputes any document features
- It must store all transformer gradients for each document
- It removes every document token before indexing