A continuaciónSiguiente guía
Recuperación de interacción tardía de ColBERT
Idioma IA
GUÍA de IA en idiomas
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity.
Escuche esta guíaNarrado por IA · ~2 min
Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
DPR, introducido por Facebook AI en 2020, utiliza dos codificadores BERT separados: un codificador de preguntas y un codificador de pasajes. Cada uno convierte el texto en un vector denso de longitud fija (a menudo 768 dimensiones). La relevancia es el producto escalar entre un vector de pregunta y un vector de pasaje, por lo que la recuperación se convierte en una búsqueda rápida del vecino más cercano sobre incrustaciones de pasajes precalculadas. El modelo se entrena con un objetivo contrastivo: acercar el vector del pasaje correcto a la pregunta y alejar los incorrectos, utilizando negativos en lotes más negativos duros extraídos de BM25. En los puntos de referencia de control de calidad de dominio abierto, como Natural Question, DPR venció al BM25, dominante durante mucho tiempo, por amplios márgenes, lo que demuestra que la coincidencia semántica aprendida podría superar la búsqueda de palabras clave para responder preguntas.
Sistemas de respuesta a preguntas de dominio abierto que extraen pasajes de Wikipedia antes de que un LLM escriba la respuesta.
Búsqueda de documentos empresariales donde los empleados hacen preguntas naturales y obtienen párrafos relevantes incluso sin palabras clave exactas.
Bots de atención al cliente que recuperan el artículo correcto del centro de ayuda a partir de una queja parafraseada
Chatbots con recuperación aumentada que basan las respuestas en una base de conocimiento privada para reducir las alucinaciones
La recuperación densa ahora sustenta la mayoría de los canales de generación de recuperación aumentada que alimentan modelos de lenguaje grandes. La investigación avanza hacia sistemas híbridos que fusionan puntuaciones densas y léxicas, modelos de interacción tardía como ColBERT que mantienen vectores por token para una correspondencia más precisa e incorporaciones ajustadas a instrucciones que se adaptan a muchas tareas. Espere codificadores más baratos, multilingües y de contexto más largo, además de una capacitación conjunta más estricta de los recuperadores con los generadores a los que sirven.
Boletín gratuito
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity. Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
DPR mapea consultas y pasajes en vectores densos y mide la relevancia por su similitud (producto escalar), capturando el significado en lugar de la superposición de palabras.
Un bicodificador tiene codificadores independientes para preguntas y pasajes, por lo que los vectores de pasajes se pueden precalcular e indexar con anticipación.
Dado que el codificador de pasajes no depende de la consulta, todas las incrustaciones de pasajes se pueden precalcular y almacenar, dejando solo la consulta para codificar en el momento de la búsqueda.
Los negativos en lotes tratan los otros pasajes de un minilote como negativos para una pregunta determinada, lo que produce muchos pares contrastantes de manera eficiente.
Learned representations can support paraphrase matching, but dense retrieval does not universally outperform lexical retrieval.
sigue aprendiendo
Más guías seleccionadas para este tema.
A continuaciónSiguiente guía
Recuperación de interacción tardía de ColBERT
Idioma IA