Cuestionario vinculado a una guía · Medio Nivel

Cuestionario de recuperación de interacción tardía de ColBERT

Pruebe los vectores de token ColBERT, la codificación independiente, la puntuación MaxSim, el trabajo en tiempo de consulta y los costos de almacenamiento abordados por la compresión ColBERTv2.

Rutas de guía relacionadasRecuperación de interacción tardía de Colbert
Pregunta 1 de 8

¿Cómo representa ColBERT una consulta o documento?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Cómo representa ColBERT una consulta o documento?
    • Como un único vector de incrustación promediado
    • Como la palabra clave sin formato solo cuenta
    • Tantos vectores de incrustación contextual a nivel de token
    • como una imagen
  2. ¿Cómo se llama la función de puntuación que utiliza ColBERT?
    • maxsim
    • agrupación de cosenos
    • Entropía cruzada de Softmax
    • búsqueda de haz
  3. What query-time work does ColBERT avoid by precomputing document token vectors?
    • All query encoding and all index access
    • Every comparison between a query token and document token
    • The need to store document representations
    • Joint transformer encoding of every query-document pair, while query encoding and similarity search still run
  4. ¿A qué se refiere "tarde" en "interacción tardía"?
    • El modelo se entrena en una fase avanzada del proceso.
    • La interacción entre los tokens de consulta y documento se difiere al paso de puntuación después de la codificación independiente.
    • Las consultas llegan tarde en la noche
    • Los documentos se agregan después de la implementación.
  5. ¿Qué problema con la recuperación densa de un solo vector aborda ColBERT?
    • Es demasiado lento para indexar
    • No puede ejecutarse en GPU
    • Requiere datos etiquetados para cada consulta.
    • Al comprimir un pasaje completo en un vector se pierden detalles finos
  6. ¿Qué mejoró notablemente ColBERTv2 con respecto al original?
    • Eliminó la necesidad de incrustaciones.
    • Cambió de BERT a un sistema basado en reglas
    • Agregó compresión residual para reducir en gran medida el tamaño del índice.
    • Eliminó el paso MaxSim
  7. A two-token ColBERT query has best document-token similarities of 0.8 and 0.3. What MaxSim score results?
    • 0.8, retaining only the single largest value across the whole query
    • 1.1, the sum of the two per-query-token maxima
    • 0.55, averaging instead of summing the maxima
    • 0.24, multiplying the two maxima
  8. Why can a ColBERT document index require more storage than a single-vector dense index?
    • It retains multiple token-level representations for each document
    • It never precomputes any document features
    • It must store all transformer gradients for each document
    • It removes every document token before indexing