Gids-gekoppelde quiz · Middelmatig Niveau
ColBERT Late interactie-ophaalquiz
Test ColBERT-tokenvectoren, onafhankelijke codering, MaxSim-scores, werk tijdens het uitvoeren van query's en de opslagkosten die worden aangepakt door ColBERTv2-compressie.
Vraag 1 van 8
Hoe vertegenwoordigt ColBERT een vraag of document?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Hoe vertegenwoordigt ColBERT een vraag of document?
- Als een enkele gemiddelde inbeddingsvector
- Omdat het onbewerkte zoekwoord alleen telt
- Evenveel contextuele inbeddingsvectoren op tokenniveau
- Als beeld
- Hoe heet de scorefunctie die ColBERT gebruikt?
- MaxSim
- Cosinuspooling
- Softmax kruis-entropie
- Straal zoeken
- What query-time work does ColBERT avoid by precomputing document token vectors?
- All query encoding and all index access
- Every comparison between a query token and document token
- The need to store document representations
- Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
- Waarnaar verwijst het ‘late’ in ‘late interactie’?
- Het model wordt laat in de pijplijn getraind
- De interactie tussen query- en documenttokens wordt na onafhankelijke codering uitgesteld tot de scorestap
- Vragen komen laat in de nacht binnen
- Documenten worden na de implementatie toegevoegd
- Welk probleem met ‘single-vector density retrieval’ pakt ColBERT aan?
- Het is te traag om te indexeren
- Het kan niet op GPU's draaien
- Het vereist gelabelde gegevens voor elke zoekopdracht
- Als u een hele passage in één vector comprimeert, gaan de fijnkorrelige details verloren
- Wat heeft ColBERTv2 met name verbeterd ten opzichte van het origineel?
- Het maakte de noodzaak voor eventuele inbedding overbodig
- Het schakelde over van BERT naar een op regels gebaseerd systeem
- Het voegde restcompressie toe om de indexgrootte aanzienlijk te verkleinen
- Het elimineerde de MaxSim-stap
- A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
- 0.8, retaining only the single largest value across the whole query
- 1.1, the sum of the two per-query-token maxima
- 0.55, averaging instead of summing the maxima
- 0.24, multiplying the two maxima
- Why can a ColBERT document index require more storage than a single-vector dense index?
- It retains multiple token-level representations for each document
- It never precomputes any document features
- It must store all transformer gradients for each document
- It removes every document token before indexing