Műszaki ÚTMUTATÓ

Retrieval-Augmented Generation (RAG)

A Retrieval-augmented Generation (RAG) a lekérdezett anyagot egy generatív modellhez látja el, amikor válaszol egy kérésre.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Főbb tanulságok
  3. Mély merülés
  4. Keresse meg, hol nem sikerül megalapozott választ adni
  5. Valós megvalósítás
  6. A gyakorlatba ültetés
  7. Források és további olvasmányok
  8. Folytassa a felfedezést
  9. Gyakran ismételt kérdések

Áttekintés

Hozzáférést biztosíthat a rendszernek a releváns dokumentumokhoz anélkül, hogy a modellt minden dokumentumváltoztatáshoz át kell tanítani. A visszakeresés nem garantálja, hogy a végső válasz támogatott vagy helyes.

Főbb tanulságok

  1. Tartsa meg a származást és a dokumentumok kontextusát.
  2. Engedélyek érvényesítése, mielőtt a visszakeresési eredmények elérnék a modellt.
  3. A visszakeresés és generálás önálló értékelése.

Mély merülés

Egy tipikus adatfolyam összegyűjti a dokumentumokat, megőrzi azok eredetét, kereshető reprezentációkat hoz létre, lekérdezi a jelölteket, és a kiválasztott bizonyítékokat átadja egy modellnek. Egyes rendszerek kombinálják a kulcsszavas és a szemantikus keresést, vagy átrendezik az eredményeket a generálás előtt. Mindegyik szakasz tartalmazhat kihagyásokat vagy hibákat. A dokumentumok elkészítése határozza meg, hogy milyen bizonyítékok találhatók. Őrizze meg a címsorokat, dátumokat, táblázatokat és forrásazonosítókat, amikor a tartalmat szakaszokra osztja. Egy kivételtől vagy lábjegyzettől elválasztott szövegrész rossz jelentést hordozhat, még akkor is, ha a szavakat helyesen másolták. Alkalmazzon hozzáférés-szabályozást, mielőtt a bizonyíték elérné a modellt. A szemantikailag releváns keresési eredmény továbbra is olyan dokumentumhoz tartozhat, amelyet a kérelmező felhasználó nem láthat. A letöltött dokumentumokon belüli utasításokat tekintse nem megbízható tartalomnak, nem pedig az alkalmazás viselkedésének megváltoztatására vonatkozó felhatalmazást. A visszakeresést és a válaszadást külön értékelje. Ellenőrizze, hogy a szükséges bizonyítékok megjelennek-e a jelölthalmazban, a kiválasztott kontextus megtartja-e azt, és a válasz hűen használja-e azokat. Tegye fel a gyűjteménybe a válasz nélküli kérdéseket, valamint az ütköző vagy elavult dokumentumokat. A rendszernek egyértelmű módra van szüksége annak kimondására, hogy a bizonyítékok nem elegendőek.

04Működő példa

Keresse meg, hol nem sikerül megalapozott választ adni

  1. Alakíts ki két házirendet: a lejárt verzió 30 napig engedélyezi a visszaküldést; a jelenlegi verzió 14 napot tesz lehetővé.

  2. Ha a visszakeresés csak a régi házirendet adja vissza, a hiba a generálás előtt van. Ha mindkettőt lekérjük, de a válasz 30 napot választ, vizsgálja meg a kontextus kiválasztását és a bizonyítékok felhasználását.

  3. Adja hozzá a hatálybalépési dátum ütközést a lekéréshez és a válaszértékeléshez is.

Mit mutat

A kitalált példa két okot különít el, amelyek egyébként ugyanazon rossz válasznak tűnnének.

Valós megvalósítás

Válaszoljon egy támogatási kérdésre a jelenlegi szabályzat és annak hatálybalépési dátuma alapján.

Adja vissza a forrásrészeket a magyarázat mellé, hogy az olvasó ellenőrizhesse azt.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Források és további olvasmányok

  1. Lewis and colleaguesRetrieval-Augmented Generation tudásintenzív NLP-feladatokhoz

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Retrieval-Augmented Generation (RAG) quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

A RAG megszünteti a hallucinációkat?

Nem. A visszakeresés során bizonyítékok hiányozhatnak, félrevezető anyagot küldhetnek vissza, vagy a generátor helytelenül használhatja fel. A végső válasz még értékelésre szorul.