LegközelebbKövetkező útmutató
FastText alszavak beágyazása
Nyelvi AI
Nyelvi AI ÚTMUTATÓ
A HyDE úgy javítja a visszakeresést, hogy először megkér egy nyelvi modellt, hogy képzeljen el egy hamis válaszdokumentumot, majd a nyers lekérdezés helyett a dokumentum beágyazásával keres.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It bridges the gap between short questions and the longer passages you actually want to find.
HyDE was proposed by Gao and colleagues in 2022 for dense retrieval without relevance labels. It asks an instruction-following language model to generate a hypothetical answer document, embeds that text with an unsupervised contrastive encoder such as Contriever, and searches the actual corpus for similar vectors. The hypothetical document can supply document-like topical patterns even when its details are false. The paper describes the dense encoder as a bottleneck that can reduce the influence of invented details; this is not a guarantee that errors never affect retrieval. Evaluate real retrieved passages rather than treating the generated text as factual evidence. HyDE targets a query-to-document mismatch and reported strong results on tested tasks and languages, without implying universal superiority over trained retrievers.
Zero-shot lekérés egy új tartományban, ahol nem léteznek címkézett lekérdezési szakasz betanítási adatok
Többnyelvű keresés, hipotetikus válasz generálása a célnyelven a beágyazás előtt
A RAG felidézésének javítása a szűkszavú felhasználói kérdések gazdag áldokumentummá való kiterjesztésével
Kutatás és jogi keresés, ahol a rövid lekérdezéseknek meg kell felelniük a sűrű, zsargont tartalmazó forrásrészleteknek
A HyDE a fejlett RAG folyamatok építőköve, gyakran kombinálva az átsorolással és a többlekérdezés generálásával. Olyan változatokra számíthatunk, amelyek több hipotetikus dokumentumot generálnak, és beágyazásukat átlagolják a robusztusság érdekében, az adaptív használatot, amely csak akkor váltja ki a HyDE-t, ha a nyers lekérdezés rosszul érkezik, valamint az olcsóbb helyi LLM-ekkel való szorosabb integrációt a késleltetés és a költségek csökkentése érdekében. A generatív modellek javulásával a hipotetikus dokumentumok minőségének – és így a visszakeresésnek – folyamatosan emelkednie kell.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A HyDE úgy javítja a visszakeresést, hogy először megkér egy nyelvi modellt, hogy képzeljen el egy hamis válaszdokumentumot, majd a nyers lekérdezés helyett a dokumentum beágyazásával keres. Áthidalja a szakadékot a rövid kérdések és a ténylegesen megtalálni kívánt hosszabb szövegrészek között.
A HyDE arra kéri az LLM-et, hogy írjon egy hipotetikus válaszdokumentumot, amelynek beágyazása azután valódi szövegrészek keresésére szolgál.
The paper motivates the dense bottleneck as filtering details, but a generated error can still change the representation and retrieved results.
A HyDE párosítja az LLM generátort egy felügyelt kontrasztív kódolóval, mint például a Contriever, hogy beágyazza a hipotetikus dokumentumot.
Azáltal, hogy a lekérdezést dokumentumszerű szöveggé alakítja, a HyDE a keresési vektort közelebb helyezi azokhoz a szövegrészekhez, amelyeknek meg kell felelnie.
Combining embeddings is one way to aggregate generated samples; it does not guarantee improved retrieval on every query.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
FastText alszavak beágyazása
Nyelvi AI