ガイド連動クイズ · 中 レベル

ColBERT 後期インタラクション取得クイズ

ColBERT トークン ベクトル、独立したエンコーディング、MaxSim スコアリング、クエリ時の作業、および ColBERTv2 圧縮によって対処されるストレージ コストをテストします。

関連するガイドパスColbert 遅延インタラクションの取得
質問 1 の 8

ColBERT はクエリまたはドキュメントをどのように表しますか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. ColBERT はクエリまたはドキュメントをどのように表しますか?
    • 単一の平均化された埋め込みベクトルとして
    • 生のキーワードのみがカウントされるため、
    • 同数のトークンレベルのコンテキスト埋め込みベクトル
    • イメージとしては
  2. ColBERT が使用するスコアリング関数は何と呼ばれますか?
    • マックスシム
    • コサインプーリング
    • ソフトマックスクロスエントロピー
    • ビームサーチ
  3. What query-time work does ColBERT avoid by precomputing document token vectors?
    • All query encoding and all index access
    • Every comparison between a query token and document token
    • The need to store document representations
    • Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
  4. 「遅いやりとり」の「遅い」とは何を指すのでしょうか？
    • モデルはパイプラインの後半でトレーニングされます
    • クエリ トークンとドキュメント トークン間の対話は、独立したエンコード後のスコアリング ステップに延期されます。
    • 深夜に問い合わせが来る
    • 導入後にドキュメントが追加される
  5. ColBERT は単一ベクトル密検索のどのような問題に対処しますか?
    • インデックス作成が遅すぎる
    • GPUでは実行できません
    • すべてのクエリにラベル付きデータが必要です
    • パッセージ全体を 1 つのベクトルに圧縮すると、細かいディテールが失われます
  6. ColBERTv2 はオリジナルと比べてどのような点が特に改善されましたか?
    • 埋め込みの必要性がなくなりました
    • BERT からルールベースのシステムに切り替えました
    • 残留圧縮を追加してインデックス サイズを大幅に縮小しました
    • MaxSim ステップが不要になりました
  7. A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
    • 0.8, retaining only the single largest value across the whole query
    • 1.1, the sum of the two per-query-token maxima
    • 0.55, averaging instead of summing the maxima
    • 0.24, multiplying the two maxima
  8. Why can a ColBERT document index require more storage than a single-vector dense index?
    • It retains multiple token-level representations for each document
    • It never precomputes any document features
    • It must store all transformer gradients for each document
    • It removes every document token before indexing