引導式測驗 · 中等 等級

ColBERT 後期互動檢索測驗

測試 ColBERT 令牌向量、獨立編碼、MaxSim 評分、查詢時工作以及 ColBERTv2 壓縮解決的儲存成本。

問題 1 的 8

ColBERT 如何表示查詢或文件?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. ColBERT 如何表示查詢或文件?
    • 作為單一平均嵌入向量
    • 由於原始關鍵字僅計數
    • 盡可能多的標記級上下文嵌入向量
    • 作為影像
  2. ColBERT 使用的評分函數叫什麼?
    • 最大模擬
    • 餘弦池化
    • Softmax交叉熵
    • 集束搜尋
  3. What query-time work does ColBERT avoid by precomputing document token vectors?
    • All query encoding and all index access
    • Every comparison between a query token and document token
    • The need to store document representations
    • Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
  4. 「遲到的互動」中的「遲到」指的是什麼?
    • 該模型在管道後期進行訓練
    • 查詢和文檔標記之間的交互作用被推遲到獨立編碼後的評分步驟
    • 查詢在深夜到達
    • 部署後新增文檔
  5. ColBERT 解決了單向量密集檢索的什麼問題?
    • 索引太慢
    • 它無法在 GPU 上運行
    • 每個查詢都需要標記數據
    • 將整個段落壓縮為一個向量會失去細粒度的細節
  6. ColBERTv2 與原始版本相比有哪些顯著改進?
    • 它消除了任何嵌入的需要
    • 它從 BERT 轉向基於規則的系統
    • 它添加了殘差壓縮以大大縮小索引大小
    • 它消除了 MaxSim 步驟
  7. A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
    • 0.8, retaining only the single largest value across the whole query
    • 1.1, the sum of the two per-query-token maxima
    • 0.55, averaging instead of summing the maxima
    • 0.24, multiplying the two maxima
  8. Why can a ColBERT document index require more storage than a single-vector dense index?
    • It retains multiple token-level representations for each document
    • It never precomputes any document features
    • It must store all transformer gradients for each document
    • It removes every document token before indexing