Викторина, связанная с руководством · Средний Уровень
Показатели оценки RAG и викторина RAGAS
Проверьте свое понимание оценки RAG: достоверность, релевантность ответов, точность контекста и отзыв, а также то, как их оценивают судьи LLM.
Вопрос 1 из 8
Какая метрика проверяет, поддерживается ли каждое утверждение в ответе полученным контекстом?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Какая метрика проверяет, поддерживается ли каждое утверждение в ответе полученным контекстом?
- Answer relevance
- Context recall
- Faithfulness
- Context precision
- Какой из этих показателей требует достоверного эталонного ответа на каждый вопрос теста?
- Context recall
- Faithfulness
- Answer relevance
- Response latency
- Что измеряет точность контекста?
- How quickly chunks are retrieved
- Whether the answer is short
- How many documents are in the index
- Whether the relevant retrieved chunks are ranked near the top
- Как RAGAS оценивает релевантность ответов?
- By counting words shared by answer and context
- By generating questions the answer would respond to and comparing them to the original question with embeddings
- By asking the user to rate each answer
- By checking the answer against a reference with exact string match
- Система демонстрирует высокий уровень контекстной памяти, но низкую контекстную точность. Какое наиболее вероятное решение?
- Improve ranking, for example by adding a reranker
- Switch to a smaller generation model
- Remove the reference answers
- Lower the number of test questions
- Why can a perfectly faithful answer still be wrong?
- Faithfulness only checks grammar
- Faithfulness ignores the retrieved context
- It can faithfully repeat an outdated or incorrect document
- Faithful answers are always too short
- Why should teams pin the judge model and settings when comparing RAG systems?
- Pinning makes the judge free to run
- Judges only work with one vector database
- Pinning removes the need for test questions
- LLM-judge scores vary with the judge model and prompt, so comparisons need identical settings
- Retrieval returns the right passages, but the answer adds unsupported details. Where should the team look first?
- The chunking strategy
- The prompt or the generation model
- The embedding model
- The number of documents indexed