Technischer Leitfaden

Korrektur-RAG (CRAG)

Corrective RAG (CRAG) ist eine Retrieval-Augmented-Generation-Methode, die vor der Beantwortung prüft, wie relevant die abgerufenen Dokumente sind, und bei schwachen Suchergebnissen Korrekturmaßnahmen ergreift, wie etwa das Verfeinern der Dokumente, das Umschreiben der Anfrage oder eine Websuche.

Hören Sie sich diesen Leitfaden anKI-erzählt · ~3 min

Auf dieser Seite3 Minuten gelesen
  1. Übersicht
  2. Tiefer Einblick
  3. Reale Umsetzung
  4. Die Zukunft von Corrective RAG (CRAG)
  5. In die Tat umsetzen
  6. Entdecken Sie weiter
  7. Häufig gestellte Fragen

Übersicht

Dies ist wichtig, da Standard-RAG alles an das Modell weitergibt, was es abruft, und irrelevante oder irreführende Dokumente eine Hauptursache für falsche, aber überzeugend formulierte Antworten sind.

Tiefer Einblick

CRAG was introduced in the 2024 paper "Corrective Retrieval Augmented Generation" by Shi-Qi Yan and colleagues. It targets a basic weakness of standard RAG: the generator trusts the retriever. If the top documents are off-topic, outdated or only loosely related, the model often answers anyway. The paper's design adds a lightweight retrieval evaluator, a fine-tuned T5-large model in the original work, which scores each retrieved document for relevance to the question. Based on those scores, the system picks one of three actions. If at least one document is judged clearly relevant, the action is Correct: the documents go through knowledge refinement, a decompose-then-recompose step that splits them into small strips, scores each strip, and keeps only the useful ones. If all documents score low, the action is Incorrect: the retrieved documents are discarded, the question is rewritten into search-engine-style keywords, and web search results are used instead, again refined. If the evaluator is unsure, the action is Ambiguous, and the system combines refined internal knowledge with web results. The authors presented CRAG as plug-and-play: it can wrap standard RAG or other methods such as Self-RAG, and they reported improvements on several short-form and long-form generation benchmarks. In practice, many teams implement CRAG-style pipelines without the original fine-tuned evaluator, using an LLM prompt to grade relevance and a graph or agent framework (LangGraph has a well-known CRAG tutorial) to route between steps. Common misconceptions: CRAG does not verify that the final answer is correct; it grades retrieval inputs. Web search is not automatically better, since it can bring in low-quality sources. And grading adds latency and cost to every query.

Reale Umsetzung

Ein Helpdesk-Bot eines Unternehmens ruft drei Richtlinien-Abschnitte zu einer Frage über Elternzeit ab. Der Bewerter stellt fest, dass keiner davon relevant ist, woraufhin das System die Anfrage umschreibt und erneut sucht, anstatt auf Basis der falschen Richtlinie zu antworten.

Ein medizinischer Informationsassistent bewertet abgerufene Textpassagen, behält nur die Sätze bei, die das vom Benutzer angefragte Medikament erwähnen, und verwirft den umgebenden Text über andere Medikamente vor der Generierung.

Ein Nachrichten-Q&A-Tool erkennt, dass sein internes Archiv keine Informationen zu einem sehr aktuellen Ereignis enthält, und greift stattdessen auf eine Websuche nach aktuellen Artikeln zurück.

Ein Prototyp für juristische Recherchen markiert den Abruf als mehrdeutig, wenn Dokumente nur teilweise relevant sind, und kombiniert verfeinerte interne Passagen mit neuen Suchergebnissen, bevor er antwortet.

Die Zukunft von Corrective RAG (CRAG)

Die CRAG-Idee, die Qualität des Abrufs zu prüfen und entsprechend zu routen, hat sich zu einem gängigen Muster in agentenbasierten RAG-Systemen entwickelt, bei denen ein Modell entscheidet, ob es erneut abrufen, woanders suchen oder antworten soll. Zukünftige Arbeiten werden sich wahrscheinlich auf günstigere und besser kalibrierte Relevanz-Evaluatoren konzentrieren sowie auf die Kombination von Eingabeprüfungen mit Ausgabeprüfungen, wie etwa die Verifizierung, dass die Antwort durch die behaltenen Belege gestützt wird. Das spezifische Drei-Aktionen-Schema mag mit der Zeit weniger wichtig sein als das breitere Prinzip, dass abgerufener Kontext bewertet und nicht automatisch als vertrauenswürdig eingestuft werden sollte.

In die Tat umsetzen

Warum es wichtig ist

  • Kosten und Budget. Architekturentscheidungen beeinflussen über Jahre hinweg die Leistung und die Betriebskosten.
  • Klarere Entscheidungen. Technische Schulungen helfen Teams dabei, den richtigen Stack auszuwählen, nicht nur den neuesten.
  • Qualitätskontrolle. Bessere technische Entscheidungen reduzieren Zuverlässigkeitsvorfälle in der Produktion.

Achten Sie auf

  • Die Optimierung eines Benchmarks kann umfassendere Systemschwächen verbergen.
  • Infrastruktur- und Wartungskosten werden oft unterschätzt.
  • Sicherheits- und Beobachtbarkeitslücken können größer werden, wenn die Systeme komplexer werden.

Nächste Schritte

  1. Definieren Sie vor der Implementierung Latenz-, Qualitäts- und Kostenziele.
  2. Benchmark unter realistischen Last- und Datenbedingungen.
  3. Instrumentenüberwachung auf Fehler, Drift und Benutzereinflüsse.
  4. Bereiten Sie vor der Skalierung Rollback- und Incident-Response-Pfade vor.

Entdecken Sie weiter

Kostenloser Newsletter

Erhalten Sie die tägliche KI-Briefing

Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.

Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.

Testen Sie sich selbst

Nehmen Sie am Corrective RAG (CRAG) Quiz teil

Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.

Quiz starten

Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende

Häufig gestellte Fragen

Was ist Corrective RAG (CRAG)?

Corrective RAG (CRAG) ist eine Retrieval-Augmented-Generation-Methode, die vor der Beantwortung prüft, wie relevant die abgerufenen Dokumente sind, und bei schwachen Suchergebnissen Korrekturmaßnahmen ergreift, wie etwa das Verfeinern der Dokumente, das Umschreiben der Anfrage oder eine Websuche. Dies ist wichtig, da Standard-RAG alles an das Modell weitergibt, was es abruft, und irrelevante oder irreführende Dokumente eine Hauptursache für falsche, aber überzeugend formulierte Antworten sind.

Welche Kernschwäche von Standard-RAG adressiert CRAG?

Standard-RAG gibt abgerufene Dokumente unabhängig von ihrer Relevanz an das Modell weiter, was zu überzeugend klingenden falschen Antworten führen kann. CRAG bewertet den Abruf zuerst.

Welche Art von Modell diente im ursprünglichen CRAG-Paper als Evaluator für den Abruf?

Das Paper verwendete ein leichtgewichtiges, feinabgestimmtes T5-large-Modell, um die Relevanz von Dokumenten zu bewerten.

Was macht CRAG, wenn alle abgerufenen Dokumente schlecht bewertet werden?

Die Aktion „Inkorrekt“ verwirft die Dokumente, schreibt die Frage in Suchanfragen um und verlässt sich auf verfeinerte Webergebnisse.

Was ist der Zweck des „Decompose-then-recompose“-Schritts?

Die Wissensverfeinerung zerlegt Dokumente in kleine Abschnitte, bewertet diese und setzt nur die nützlichen Teile für den Generator wieder zusammen.

Welche Aktion führt CRAG aus, wenn sich der Evaluator bezüglich der Relevanz unsicher ist?

Die Aktion „Ambiguous“ kombiniert beide Quellen, um sich gegen Unsicherheiten im Urteil des Evaluators abzusichern.