Тест, свързан с ръководство · Среден Ниво

ColBERT Тест за извличане на късно взаимодействие

Тествайте ColBERT токен вектори, независимо кодиране, оценка на MaxSim, работа по време на заявка и разходите за съхранение, адресирани от компресията ColBERTv2.

Свързани ръководни пътекиКъсен извличане на Колбърт
Въпрос 1 на 8

Как ColBERT представлява заявка или документ?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Как ColBERT представлява заявка или документ?
    • Като единичен осреднен вектор за вграждане
    • Като сурова ключова дума се брои само
    • Колкото и вектори за контекстно вграждане на ниво токен
    • Като изображение
  2. Как се нарича функцията за точкуване, която ColBERT използва?
    • MaxSim
    • Косинус обединяване
    • Softmax кръстосана ентропия
    • Търсене по лъч
  3. What query-time work does ColBERT avoid by precomputing document token vectors?
    • All query encoding and all index access
    • Every comparison between a query token and document token
    • The need to store document representations
    • Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
  4. Какво означава „късно“ в „късно взаимодействие“?
    • Моделът се обучава късно в процес на подготовка
    • Взаимодействието между токените на заявка и документ се отлага до стъпката на оценка след независимо кодиране
    • Заявките пристигат късно през нощта
    • Документите се добавят след внедряването
  5. Какъв проблем с едновекторното плътно извличане решава ColBERT?
    • Твърде бавен е за индексиране
    • Не може да работи на графични процесори
    • Изисква етикетирани данни за всяка заявка
    • Компресирането на цял пасаж в един вектор губи фини детайли
  6. Какво значително подобри ColBERTv2 спрямо оригинала?
    • Премахна необходимостта от всякакви вграждания
    • Той премина от BERT към система, базирана на правила
    • Той добави остатъчна компресия, за да намали значително размера на индекса
    • Той елиминира стъпката MaxSim
  7. A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
    • 0.8, retaining only the single largest value across the whole query
    • 1.1, the sum of the two per-query-token maxima
    • 0.55, averaging instead of summing the maxima
    • 0.24, multiplying the two maxima
  8. Why can a ColBERT document index require more storage than a single-vector dense index?
    • It retains multiple token-level representations for each document
    • It never precomputes any document features
    • It must store all transformer gradients for each document
    • It removes every document token before indexing