Gids-gekoppelde quiz · Middelmatig Niveau

ColBERT Late interactie-ophaalquiz

Test ColBERT-tokenvectoren, onafhankelijke codering, MaxSim-scores, werk tijdens het uitvoeren van query's en de opslagkosten die worden aangepakt door ColBERTv2-compressie.

Vraag 1 van 8

Hoe vertegenwoordigt ColBERT een vraag of document?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Hoe vertegenwoordigt ColBERT een vraag of document?
    • Als een enkele gemiddelde inbeddingsvector
    • Omdat het onbewerkte zoekwoord alleen telt
    • Evenveel contextuele inbeddingsvectoren op tokenniveau
    • Als beeld
  2. Hoe heet de scorefunctie die ColBERT gebruikt?
    • MaxSim
    • Cosinuspooling
    • Softmax kruis-entropie
    • Straal zoeken
  3. What query-time work does ColBERT avoid by precomputing document token vectors?
    • All query encoding and all index access
    • Every comparison between a query token and document token
    • The need to store document representations
    • Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
  4. Waarnaar verwijst het ‘late’ in ‘late interactie’?
    • Het model wordt laat in de pijplijn getraind
    • De interactie tussen query- en documenttokens wordt na onafhankelijke codering uitgesteld tot de scorestap
    • Vragen komen laat in de nacht binnen
    • Documenten worden na de implementatie toegevoegd
  5. Welk probleem met ‘single-vector density retrieval’ pakt ColBERT aan?
    • Het is te traag om te indexeren
    • Het kan niet op GPU's draaien
    • Het vereist gelabelde gegevens voor elke zoekopdracht
    • Als u een hele passage in één vector comprimeert, gaan de fijnkorrelige details verloren
  6. Wat heeft ColBERTv2 met name verbeterd ten opzichte van het origineel?
    • Het maakte de noodzaak voor eventuele inbedding overbodig
    • Het schakelde over van BERT naar een op regels gebaseerd systeem
    • Het voegde restcompressie toe om de indexgrootte aanzienlijk te verkleinen
    • Het elimineerde de MaxSim-stap
  7. A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
    • 0.8, retaining only the single largest value across the whole query
    • 1.1, the sum of the two per-query-token maxima
    • 0.55, averaging instead of summing the maxima
    • 0.24, multiplying the two maxima
  8. Why can a ColBERT document index require more storage than a single-vector dense index?
    • It retains multiple token-level representations for each document
    • It never precomputes any document features
    • It must store all transformer gradients for each document
    • It removes every document token before indexing