Вікторина, пов’язана з посібником · Середній Рівень
Тест ColBERT Late Interaction Retrieval
Перевірте вектори токенів ColBERT, незалежне кодування, підрахунок балів MaxSim, роботу під час запиту та витрати на зберігання, що враховуються стисненням ColBERTv2.
Питання 1 з 8
Як ColBERT представляє запит або документ?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Як ColBERT представляє запит або документ?
- Як єдиний усереднений вектор вкладення
- Враховується лише необроблене ключове слово
- Стільки ж векторів контекстного вбудовування на рівні маркерів
- Як образ
- Як називається функція скорингу, яку використовує ColBERT?
- MaxSim
- Косинусний пул
- Softmax крос-ентропія
- Променевий пошук
- What query-time work does ColBERT avoid by precomputing document token vectors?
- All query encoding and all index access
- Every comparison between a query token and document token
- The need to store document representations
- Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
- Що означає «пізня» у «пізній взаємодії»?
- Модель навчається на запізнілому етапі розробки
- Взаємодія між токенами запиту та документа відкладається на етап скорингу після незалежного кодування
- Запити надходять пізно ввечері
- Документи додаються після розгортання
- Яку проблему з одновекторним щільним пошуком вирішує ColBERT?
- Він занадто повільний для індексації
- Він не може працювати на графічних процесорах
- Для кожного запиту потрібні позначені дані
- Стиснення цілого фрагмента в один вектор втрачає дрібні деталі
- Що ColBERTv2 значно покращив порівняно з оригіналом?
- Це позбулося будь-яких вставок
- Він перейшов від BERT до системи, заснованої на правилах
- Це додало залишкове стиснення, щоб значно зменшити розмір покажчика
- Він усунув крок MaxSim
- A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
- 0.8, retaining only the single largest value across the whole query
- 1.1, the sum of the two per-query-token maxima
- 0.55, averaging instead of summing the maxima
- 0.24, multiplying the two maxima
- Why can a ColBERT document index require more storage than a single-vector dense index?
- It retains multiple token-level representations for each document
- It never precomputes any document features
- It must store all transformer gradients for each document
- It removes every document token before indexing