Műszaki ÚTMUTATÓ

Lekérdezés újraírása és többszörös lekérdezés visszakeresése

A lekérdezés átírása és a többszörös lekérdezés visszakeresése olyan RAG technikák, amelyek a keresés előtt átalakítják a felhasználó kérdését úgy, hogy átfogalmazzák, részkérdésekre bontják, vagy több változatot generálnak és eredményeiket összevonják.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon3 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A lekérdezések újraírásának és a többszörös lekérdezésnek a jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Ezek azért fontosak, mert a felhasználók gyakran tesznek fel homályos, beszélgetős vagy több részből álló kérdéseket, amelyek megfogalmazása nem egyezik a dokumentumokkal, és egy jobb lekérdezés olyan releváns szövegrészeket jeleníthet meg, amelyeket egyetlen szó szerinti keresés kihagyna.

Mély merülés

A lekérdezés minősége nagymértékben függ a lekérdezéstől. A felhasználók rövid, kétértelmű vagy társalgási kérdéseket írnak fel, míg a dokumentumok saját szókincsüket használják. A lekérdezés átalakítása bezárja ezt a rést, mielőtt a keresés megtörténik. A legegyszerűbb forma az újraírás: az LLM a felhasználó üzenetét áttekinthetőbb keresési lekérdezéssé alakítja. Ez elengedhetetlen a többfordulós csevegésben, ahol az olyan nyomon követések, mint az "és 2023-ban?" történelem nélkül semmit sem jelent, így a rendszer a beszélgetést önálló lekérdezésbe sűríti. A dekompozíció az összetett kérdést részkérdésekre bontja, amelyek külön-külön lekérhetők, és hasznosak összehasonlításokhoz vagy többugrásos kérdésekhez. A Google DeepMind kutatói által 2023-ban leírt visszalépési felszólítás először egy általánosabb kérdést tesz fel a háttérelvek visszakereséséhez. A többlekérdezéses lekérdezés a kérdés több változatát generálja, mindegyikre keresést futtat, és egyesíti az eredményeket. A LangChain ezt népszerűsítette a MultiQueryRetrieverével. A RAG-Fusion több lekérdezést kombinál a reciprocal rank fusion (RRF) módszerrel, amelyet Cormack, Clarke és Buettcher írt le 2009-ben, és amely minden dokumentumot 1/(k + rang) összegzésével pontoz az eredménylistákon. A több listán előkelő helyen megjelenő dokumentumok az élre kerülnek anélkül, hogy összehasonlítható nyers pontszámra lenne szükségük. Egy kapcsolódó technika, a HyDE (Hypothetical Document Embeddings, Gao és munkatársai, 2022), a modell egy hipotetikus választ ír, és azt ágyazza be a kérdés helyett, mivel a válasz alakú szöveg gyakran közelebb van a beágyazott térben a valódi válaszrészletekhez. Tévhitek: több lekérdezés nem mindig jobb. Mindegyik változat növeli a késleltetést és a költségeket, a rosszul generált változatok pedig eltérhetnek a felhasználó szándékától, és irreleváns dokumentumokat vonhatnak be. Az újraírás emellett olyan fontos megszorításokat is elvethet, mint a dátumok vagy a terméknevek. Mérje meg az emlékezés minőségét és válaszoljon a valódi kérdésekre, mielőtt megtenné ezeket a lépéseket.

Valós megvalósítás

A chat-asszisztensben a "mi a helyzet a részmunkaidős alkalmazottakkal?" át van írva egy önálló lekérdezésbe, például "Szülői szabadságra vonatkozó szabályzat részmunkaidős alkalmazottak számára" a korábbi beszélgetés segítségével.

A két felhőszolgáltató árait összehasonlító kérdést minden szolgáltatónál külön keresésekre bontjuk, és az eredményeket a válaszadás előtt egyesítjük.

Egy támogató bot négy „alkalmazásom folyamatosan kijelentkeztet” kifejezést generál, beleértve az olyan szakkifejezéseket, mint a munkamenet lejárata és a token frissítése, és az eredményeket a kölcsönös rangsorolással egyesíti.

A kutatási asszisztens visszalépést használ, hogy először megkeresse egy szűk kérdés mögött meghúzódó általános elvet, majd lekéri a konkrét részleteket, így a modell hátterét és konkrétumát is megadja.

A lekérdezések újraírásának és a többszörös lekérdezésnek a jövője

Az ügynök RAG terjedésével a lekérdezések átalakítása egyre inkább úgy történik, hogy a modell dönti el, hogy mit keressen, és iterál, ha az eredmények gyengének tűnnek, nem pedig egy rögzített újraírási lépéssel. Emiatt a mögöttes ötletek, a dekompozíció, a változatok és a fúzió még akkor is fontosabbak, ha kevésbé láthatóak. A beágyazott modellek és a hibrid keresés továbbfejlesztései csökkentik a szókincs eltéréseit, de nem szüntetik meg a kétértelmű vagy társalgási kérdések tisztázását. Várható, hogy a csapatok szelektíven használják ezeket a technikákat, amelyek akkor indulnak el, ha egy lekérdezés bonyolultnak tűnik, vagy a kezdeti lekérdezés gyenge, hogy egyensúlyba hozza a minőséget a költségekkel.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Query Rewriting and Multi-Query Retrieval quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a lekérdezés újraírása és több lekérdezésből történő visszakeresés?

A lekérdezés átírása és a többszörös lekérdezés visszakeresése olyan RAG technikák, amelyek a keresés előtt átalakítják a felhasználó kérdését úgy, hogy átfogalmazzák, részkérdésekre bontják, vagy több változatot generálnak és eredményeiket összevonják. Ezek azért fontosak, mert a felhasználók gyakran tesznek fel homályos, beszélgetős vagy több részből álló kérdéseket, amelyek megfogalmazása nem egyezik a dokumentumokkal, és egy jobb lekérdezés olyan releváns szövegrészeket jeleníthet meg, amelyeket egyetlen szó szerinti keresés kihagyna.

Miért különösen fontos a lekérdezések átírása a többfordulós csevegésben?

Olyan nyomon követés, mint "és 2023-ban?" Beszélgetési előzményekre van szüksége ahhoz, hogy hasznos önálló lekérdezéssé váljon.

Melyik technika bontja fel az összehasonlító kérdést külön keresésekre minden egyes összehasonlított elemre?

A dekompozíció az összetett vagy több részből álló kérdéseket külön lekérhető részkérdésekre bontja.

Mit tesz a visszalépési felszólítás?

A Google DeepMind kutatóitól származó visszalépési felszólítás általános hátteret keres a konkrétumok előtt.

A reciprok rangok összeolvadásakor hogyan számítják ki a dokumentum pontszámát?

Az RRF minden dokumentumot tartalmazó listára 1/(k + rang) összeget ad, ezzel díjazza a több listán előkelő helyen álló dokumentumokat.

Miért kényelmes az RRF a vektorkeresés és a BM25 eredmények egyesítésére?

Mivel az RRF csak rangpozíciókat használ, kombinálhat olyan listákat, amelyek nyers pontszámai nem összehasonlíthatók.