Викторина, связанная с руководством · Средний Уровень

Показатели оценки RAG и викторина RAGAS

Проверьте свое понимание оценки RAG: достоверность, релевантность ответов, точность контекста и отзыв, а также то, как их оценивают судьи LLM.

Связанные направляющие путиМетрики оценки RAG и Ragas
Вопрос 1 из 8

Какая метрика проверяет, поддерживается ли каждое утверждение в ответе полученным контекстом?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Какая метрика проверяет, поддерживается ли каждое утверждение в ответе полученным контекстом?
    • Answer relevance
    • Context recall
    • Faithfulness
    • Context precision
  2. Какой из этих показателей требует достоверного эталонного ответа на каждый вопрос теста?
    • Context recall
    • Faithfulness
    • Answer relevance
    • Response latency
  3. Что измеряет точность контекста?
    • How quickly chunks are retrieved
    • Whether the answer is short
    • How many documents are in the index
    • Whether the relevant retrieved chunks are ranked near the top
  4. Как RAGAS оценивает релевантность ответов?
    • By counting words shared by answer and context
    • By generating questions the answer would respond to and comparing them to the original question with embeddings
    • By asking the user to rate each answer
    • By checking the answer against a reference with exact string match
  5. Система демонстрирует высокий уровень контекстной памяти, но низкую контекстную точность. Какое наиболее вероятное решение?
    • Improve ranking, for example by adding a reranker
    • Switch to a smaller generation model
    • Remove the reference answers
    • Lower the number of test questions
  6. Why can a perfectly faithful answer still be wrong?
    • Faithfulness only checks grammar
    • Faithfulness ignores the retrieved context
    • It can faithfully repeat an outdated or incorrect document
    • Faithful answers are always too short
  7. Why should teams pin the judge model and settings when comparing RAG systems?
    • Pinning makes the judge free to run
    • Judges only work with one vector database
    • Pinning removes the need for test questions
    • LLM-judge scores vary with the judge model and prompt, so comparisons need identical settings
  8. Retrieval returns the right passages, but the answer adds unsupported details. Where should the team look first?
    • The chunking strategy
    • The prompt or the generation model
    • The embedding model
    • The number of documents indexed