Selbst-RAG und reflektierendes Abrufen
Self-RAG ist ein Framework, bei dem ein Sprachmodell entscheidet, wann es abgerufen werden soll, und dann sowohl die abgerufenen Passagen als auch seine eigene Ausgabe mithilfe spezieller Reflexionstokens kritisiert.
Übersicht
It matters because it makes retrieval-augmented generation adaptive and self-checking instead of blindly fetching documents for every query.
Tiefer Einblick
Standard-RAG ruft für jede Eingabe eine feste Anzahl von Passagen ab, auch wenn keine benötigt werden, und überprüft nie, ob die Antwort tatsächlich unterstützt wird. Self-RAG, das 2023 von Asai und Kollegen eingeführt wurde, trainiert ein einzelnes Modell, drei Dinge auf Abruf zu tun. Zunächst wird ein „Abruf“-Token ausgegeben, das entscheidet, ob externes Wissen überhaupt benötigt wird. Zweitens werden nach dem Abrufen „IsRelevant“-Kritiktoken ausgegeben, um zu beurteilen, ob jede Passage hilfreich ist. Drittens generiert es „IsSupported“- und „IsUseful“-Token, um zu bewerten, ob seine eigenen Aussagen auf den Beweisen basieren und wie gut die Reaktion ist. Mit diesen Reflexions-Tokens kann das System nur dann abrufen, wenn dies gerechtfertigt ist, irrelevante Passagen filtern und Ausgaben bevorzugen, die das Modell selbst als gut unterstützt einstuft, wodurch Halluzinationen reduziert werden.
Technischer Einblick
Self-RAG wird durch überwachtes Lernen an mit Reflexionstoken gekennzeichneten Daten trainiert, die häufig aus einem stärkeren Modell wie GPT-4 abgeleitet sind. Bei der Schlussfolgerung verschachtelt das Modell gewöhnliche Text-Tokens mit diesen speziellen Kontroll-Tokens. Eine Strahlsuche auf Segmentebene kann dann Kandidatenfortsetzungen anhand der Wahrscheinlichkeiten der Kritik-Tokens bewerten und es Entwicklern ermöglichen, das Verhalten zur Laufzeit zu optimieren – beispielsweise durch eine stärkere Gewichtung von „IsSupported“, um die sachliche Grundlage gegenüber der Sprachkompetenz zu maximieren.
Strategische Auswirkungen
Geschwindigkeit und Umfang
Sprachworkflows können schneller ablaufen, ohne dass die Konsistenz darunter leidet.
Zugang und Erreichbarkeit
Es erweitert den Zugang über Sprachen und Kommunikationsstile hinweg.
Klarere Entscheidungen
Teams können mehr Zeit für die Beurteilung aufwenden, während die Automatisierung die Wiederholungen bewältigt.
Die Zukunft der Selbst-RAG und des reflektierenden Abrufens
Das reflektierende Abrufen konvergiert mit dem agentischen RAG, bei dem Modelle mehrstufige Suchvorgänge planen, Tools aufrufen und sich über Iterationen hinweg selbst korrigieren. Erwarten Sie eine engere Integration der Selbstkritik mit Verifizierermodellen, Retrieval über Wissensgraphen und verstärkendes Lernen, das treue, gut zitierte Antworten belohnt. Wenn die Argumentationsmodelle ausgereift sind, wird sich der bedarfsgesteuerte und selbstbewertete Abruf wahrscheinlich eher zu einem Standardverhalten als zu einem separaten Rahmenwerk entwickeln, wobei das Modell dynamisch entscheidet, wie viele Beweise für jede Behauptung erforderlich sind.
Reale Umsetzung
Ein medizinischer Q&A-Assistent ruft Leitlinien nur für klinische Fragen ab und überspringt den Abruf für Begrüßungen mithilfe seines Entscheidungstokens „Abrufen“.
Ein wissenschaftlicher Mitarbeiter filtert Suchtreffer heraus, die nicht zum Thema gehören, indem er vor dem Schreiben die „IsRelevant“-Kritik jeder Passage überprüft.
Ein Unternehmens-Chatbot bevorzugt Antworten mit dem Tag „IstUnterstützt“, damit seine Aussagen in Unternehmensdokumenten verankert bleiben und Halluzinationen vermieden werden.
Ein Tool zur Faktenprüfung verwendet den „IsUseful“-Score, um mehrere Kandidatenantworten in eine Rangfolge zu bringen und die am besten belegte Antwort zu ermitteln.
Risiken und Leitplanken
Halluzinierte Fakten können still und leise in Berichte, Support-Flows oder Forschungsergebnisse einfließen.
Eine schnelle Sensibilität kann bei ähnlichen Anfragen zu inkonsistenten Ergebnissen führen.
Sensible Textdaten können offengelegt werden, wenn die Zugriffskontrollen schwach sind.
Implementierungs-Roadmap
Definieren Sie vor dem Rollout Ausgabeformat, Ton und Qualitätsstandards.
Bodenantworten mit vertrauenswürdigen Quellen, wann immer es auf Genauigkeit ankommt.
Halten Sie einen Kontrollpunkt für die menschliche Überprüfung für Ergebnisse mit hohem Risiko ein.
Verfolgen Sie Fehlermuster und trainieren Sie Eingabeaufforderungen oder Arbeitsabläufe regelmäßig neu.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-RAG and Reflective Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Nächster Leitfaden
Spekulatives RAG und Retrieval-Augmented Drafting
Häufig gestellte Fragen
What is Self-RAG and Reflective Retrieval?
Self-RAG ist ein Framework, bei dem ein Sprachmodell entscheidet, wann es abgerufen werden soll, und dann sowohl die abgerufenen Passagen als auch seine eigene Ausgabe mithilfe spezieller Reflexionstokens kritisiert. Dies ist wichtig, weil es die durch Abruf erweiterte Generierung anpassungsfähig und selbstprüfend macht, anstatt blind Dokumente für jede Abfrage abzurufen.
Welche wichtige Entscheidung trifft Self-RAG, die Standard-RAG nicht trifft?
Self-RAG gibt ein „Abruf“-Token aus, um bei Bedarf zu entscheiden, ob externe Dokumente benötigt werden, anstatt immer abzurufen.
Was sind „Reflexionstokens“ in Self-RAG?
Reflexionstoken wie IsRelevant, IsSupported und IsUseful ermöglichen es dem Modell, Passagen und seine eigene Ausgabe zu kritisieren.
Welches Reflexionstoken beurteilt, ob eine generierte Aussage auf den abgerufenen Beweisen basiert?
Der IsSupported-Token beurteilt, ob die Behauptung des Modells tatsächlich durch die abgerufenen Passagen gestützt wird, und hilft so, Halluzinationen zu reduzieren.
Wie wird ein Self-RAG-Modell normalerweise trainiert, um Reflexionstoken zu erzeugen?
Self-RAG lernt aus Trainingsdaten, die mit Reflexionstokens versehen sind und häufig von einem leistungsfähigeren Lehrermodell wie GPT-4 generiert werden.
Welchen Vorteil bietet die Abgabe einer „IsRelevant“-Kritik für jede Passage?
Durch die Kritik der Relevanz jeder Passage kann Self-RAG Zugriffe außerhalb des Themas ignorieren, anstatt sie in die Antwort einzubauen.