Quiz połączony z przewodnikiem · Średni Poziom

Wskaźniki oceny RAG i quiz RAGAS

Sprawdź, czy rozumiesz ocenę RAG: wierność, trafność odpowiedzi, precyzję kontekstu i zapamiętywanie oraz sposób, w jaki oceniają je sędziowie LLM.

Powiązane ścieżki prowadząceMetryki oceny RAG i Ragas
Pytanie 1 z 8

Która metryka sprawdza, czy każde twierdzenie w odpowiedzi jest obsługiwane przez pobrany kontekst?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Która metryka sprawdza, czy każde twierdzenie w odpowiedzi jest obsługiwane przez pobrany kontekst?
    • Answer relevance
    • Context recall
    • Faithfulness
    • Context precision
  2. Która z tych metryk wymaga opartej na faktach odpowiedzi referencyjnej na każde pytanie testowe?
    • Context recall
    • Faithfulness
    • Answer relevance
    • Response latency
  3. Co mierzy precyzja kontekstu?
    • How quickly chunks are retrieved
    • Whether the answer is short
    • How many documents are in the index
    • Whether the relevant retrieved chunks are ranked near the top
  4. W jaki sposób RAGAS szacuje trafność odpowiedzi?
    • By counting words shared by answer and context
    • By generating questions the answer would respond to and comparing them to the original question with embeddings
    • By asking the user to rate each answer
    • By checking the answer against a reference with exact string match
  5. System wykazuje wysoki poziom zapamiętywania kontekstu, ale niską precyzję kontekstu. Jakie jest najbardziej prawdopodobne rozwiązanie?
    • Improve ranking, for example by adding a reranker
    • Switch to a smaller generation model
    • Remove the reference answers
    • Lower the number of test questions
  6. Why can a perfectly faithful answer still be wrong?
    • Faithfulness only checks grammar
    • Faithfulness ignores the retrieved context
    • It can faithfully repeat an outdated or incorrect document
    • Faithful answers are always too short
  7. Why should teams pin the judge model and settings when comparing RAG systems?
    • Pinning makes the judge free to run
    • Judges only work with one vector database
    • Pinning removes the need for test questions
    • LLM-judge scores vary with the judge model and prompt, so comparisons need identical settings
  8. Retrieval returns the right passages, but the answer adds unsupported details. Where should the team look first?
    • The chunking strategy
    • The prompt or the generation model
    • The embedding model
    • The number of documents indexed