Als nächstesNächster Leitfaden
ColBERT Spätinteraktionsabruf
Sprach-KI
Sprach-KI-GUIDE
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity.
Hören Sie sich diesen Leitfaden anKI-erzählt · ~2 min
Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
DPR, das 2020 von Facebook AI eingeführt wurde, verwendet zwei separate BERT-Encoder: einen Fragen-Encoder und einen Passage-Encoder. Jeder wandelt Text in einen dichten Vektor fester Länge um (häufig 768 Dimensionen). Relevanz ist das Skalarprodukt zwischen einem Fragevektor und einem Passagenvektor, sodass das Abrufen zu einer schnellen Suche nach dem nächsten Nachbarn über vorberechnete Passageneinbettungen wird. Das Modell wird mit einem kontrastierenden Ziel trainiert: Ziehen Sie den Vektor der richtigen Passage nahe an die Frage heran und schieben Sie die falschen weg, indem Sie In-Batch-Negative sowie aus BM25 gewonnene Hard-Negative verwenden. Bei Open-Domain-QA-Benchmarks wie Natural Questions schlug DPR den lange dominierenden BM25 mit großem Abstand und zeigte, dass erlerntes semantisches Matching die Schlüsselwortsuche zur Beantwortung von Fragen übertreffen könnte.
Offene Frage-Antwort-Systeme, die unterstützende Wikipedia-Passagen abrufen, bevor ein LLM die Antwort schreibt
Unternehmensdokumentsuche, bei der Mitarbeiter natürliche Fragen stellen und relevante Absätze auch ohne genaue Schlüsselwörter erhalten
Kundensupport-Bots, die aus einer umformulierten Beschwerde den richtigen Hilfe-Center-Artikel abrufen
Abrufgestützte Chatbots verankern Antworten in einer privaten Wissensdatenbank, um Halluzinationen zu reduzieren
Dense Retrieval ist heute die Grundlage der meisten Pipelines zur Retrieval-Augmented-Generation, die große Sprachmodelle versorgen. Die Forschung bewegt sich in Richtung hybrider Systeme, die dichte und lexikalische Scores verschmelzen, Late-Interaction-Modelle wie ColBERT, die Vektoren pro Token für eine feinere Zuordnung beibehalten, und auf Anweisungen abgestimmte Einbettungen, die sich an viele Aufgaben anpassen. Erwarten Sie günstigere, mehrsprachige Encoder mit längeren Kontexten sowie eine engere gemeinsame Schulung der Retriever mit den von ihnen bedienten Generatoren.
Kostenloser Newsletter
Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.
Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.
Testen Sie sich selbst
Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.
Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity. Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
DPR ordnet sowohl Abfragen als auch Passagen dichten Vektoren zu und misst die Relevanz anhand ihrer Ähnlichkeit (Skalarprodukt), wobei die Bedeutung und nicht die Wortüberlappung erfasst wird.
Ein Bi-Encoder verfügt über unabhängige Encoder für Fragen und Passagen, sodass Passagenvektoren vorab berechnet und indiziert werden können.
Da der Passage-Encoder nicht von der Abfrage abhängt, können alle Passage-Einbettungen vorberechnet und gespeichert werden, sodass zum Zeitpunkt der Suche nur noch die Abfrage codiert werden muss.
In-Batch-Negative behandeln die anderen Passagen in einem Mini-Batch als Negative für eine bestimmte Frage und erzeugen so effizient viele Kontrastpaare.
Learned representations can support paraphrase matching, but dense retrieval does not universally outperform lexical retrieval.
Lerne weiter
Weitere Leitfäden zu diesem Thema ausgewählt
Als nächstesNächster Leitfaden
ColBERT Spätinteraktionsabruf
Sprach-KI