Cuestionario vinculado a una guía · Medio Nivel
Métricas de evaluación RAG y cuestionario RAGAS
Verifique su comprensión de la evaluación RAG: fidelidad, relevancia de las respuestas, precisión y recuerdo del contexto, y cómo los jueces de LLM las califican.
Pregunta 1 de 8
¿Qué métrica comprueba si cada afirmación de la respuesta está respaldada por el contexto recuperado?
Vista previa de cada pregunta8 preguntas
Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.
- ¿Qué métrica comprueba si cada afirmación de la respuesta está respaldada por el contexto recuperado?
- Answer relevance
- Context recall
- Faithfulness
- Context precision
- ¿Cuál de estas métricas requiere una respuesta de referencia de verdad fundamental (ground-truth) para cada pregunta de prueba?
- Context recall
- Faithfulness
- Answer relevance
- Response latency
- ¿Qué mide la precisión del contexto?
- How quickly chunks are retrieved
- Whether the answer is short
- How many documents are in the index
- Whether the relevant retrieved chunks are ranked near the top
- ¿Cómo estima RAGAS la relevancia de la respuesta?
- By counting words shared by answer and context
- By generating questions the answer would respond to and comparing them to the original question with embeddings
- By asking the user to rate each answer
- By checking the answer against a reference with exact string match
- Un sistema muestra una alta recuperación de contexto pero una baja precisión de contexto. ¿Cuál es la solución más probable?
- Improve ranking, for example by adding a reranker
- Switch to a smaller generation model
- Remove the reference answers
- Lower the number of test questions
- Why can a perfectly faithful answer still be wrong?
- Faithfulness only checks grammar
- Faithfulness ignores the retrieved context
- It can faithfully repeat an outdated or incorrect document
- Faithful answers are always too short
- Why should teams pin the judge model and settings when comparing RAG systems?
- Pinning makes the judge free to run
- Judges only work with one vector database
- Pinning removes the need for test questions
- LLM-judge scores vary with the judge model and prompt, so comparisons need identical settings
- Retrieval returns the right passages, but the answer adds unsupported details. Where should the team look first?
- The chunking strategy
- The prompt or the generation model
- The embedding model
- The number of documents indexed