Műszaki ÚTMUTATÓ

Beágyazási modellek finomhangolása a visszakereséshez

A beágyazási modell finomhangolása azt jelenti, hogy a valós lekérdezések párjaira és a rájuk válaszoló dokumentumokra oktatjuk, így az Ön tartományában a releváns szöveg közelebb kerül egymáshoz a vektortérben, mint az irreleváns szöveg.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A beágyazott modellek finomhangolásának jövője a visszakereséshez
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Ez azért fontos, mert a visszakeresés minősége korlátozza a RAG minőségét: ha nem a megfelelő szövegrészt keresi le, a nyelvi modell nem tudja használni, és az általános célú beágyazások gyakran figyelmen kívül hagyják a tartományi szókincset, a rövidítéseket és azt, ahogyan a felhasználók megfogalmazzák a kérdéseket.

Mély merülés

A beágyazási modell a szöveget vektorokká alakítja, így a szemantikailag hasonló szövegek hasonló vektorokkal rendelkeznek, általában koszinusz hasonlósággal mérve. A RAG-ban a lekérdezések és a dokumentumdarabok is beágyazódnak, és a legközelebbi darabok kerülnek lekérésre. Az általános modelleket a széles web és a kérdés-válasz adatok alapján képezik. Meglehetősen jól működnek mindenhol, de megküzdhetnek a speciális kifejezésekkel, a belső terméknevekkel, valamint a felhasználói kérdés és a dokumentum írásmódja közötti különbséggel. A finomhangolás három formában zárja be ezt a rést a képzési adatokkal. A pozitív párok egy lekérdezés és egy szövegrész, amely megválaszolja. A kötegen belüli negatívok az ugyanabban a betanítási kötegben lévő többi szakaszt használják példaként arra, hogy minek kell alacsonyabb pontszámot elérnie. A kemény negatívok olyan részek, amelyek relevánsnak tűnnek, szavakat vagy témát osztanak meg, de nem válaszolnak a kérdésre. A kemény negatívok megtanítják a legfontosabb különbségeket, mert a könnyű negatívokat az alapmodell már elválasztja. A jó adatforrások közé tartoznak a kattintásokat tartalmazó keresési naplók, a cikkekre hivatkozott támogatási jegyek, a GYIK oldalak és a dokumentumokból nyelvi modell által generált szintetikus lekérdezések. A szintetikus adatok hasznosak, de szűrni kell őket, mivel a generált kérdések gyakran másolják a dokumentum szövegét, és túlságosan megkönnyítik a feladatot. Gyakori tévhit, hogy a finomhangolás az első megoldás a rossz visszakeresésre. Gyakran jobb darabolás, kulcsszavas keresés (például BM25) hozzáadása egy hibrid beállításban, vagy egy átsoroló hozzáadása kisebb erőfeszítéssel nagyobb nyereséget eredményez. A finomhangolás akkor éri meg leginkább, ha felmértünk egy visszakeresési rést, és legalább néhány ezer minőségi párral rendelkezik vagy tud építeni. Egy másik buktató a hamis negatívok: egy bányászott kemény negatív, amely valójában válaszol a lekérdezésre. A modell eltaszítására való betanítása rontja a minőséget. Vegye figyelembe azt is, hogy a beágyazási modell megváltoztatásához a teljes dokumentumgyűjtemény újrabeágyazása szükséges, mivel a régi és az új vektorok nem hasonlíthatók össze.

Valós megvalósítás

Egy biztosítótársaság a beágyazásokat az ügyfelek kérdéseinek párjára és a rájuk válaszoló kötvényzárakra tanítja, így a „fedezi-e a telefont, ha leejtem” visszakeresi a véletlen kárról szóló záradékot.

Egy szoftvercég a támogatási jegyek előzményeit használja, és minden jegy kérdését ingyenes képzési adatként párosítja a válaszukban hivatkozott súgócikk-ügynökökkel.

Egy jogi kutatócsoport úgy bányászza ki a kemény negatívumokat, hogy olyan záradékokat vesz fel, amelyek megosztják a kulcsszavakat a lekérdezéssel, de más joghatóságot érintenek, és megtanítják a modellt ezek elkülönítésére.

Egy gyógyszerészeti csapat szintetikus kérdéseket generál belső dokumentumokból egy nyelvi modellel, kiszűri a rossz minőségűeket, és a párokat használja a tartománybeágyazási modell betanításához.

A beágyazott modellek finomhangolásának jövője a visszakereséshez

Az általános beágyazási modellek folyamatosan javulnak a nyilvános benchmarkokhoz, például az MTEB-hez képest, amely szűkíti, de nem szünteti meg a tartomány-adaptáció előnyeit, mivel a benchmark adatok ritkán egyeznek meg egy privát korpusszal. A nyelvi modellekkel végzett szintetikus adatgenerálás praktikussá tette a finomhangolást a nagy címkézett adatkészletekkel nem rendelkező csapatok számára. Várható a hibrid csővezetékek további használata, ahol a finomhangolt beágyazási modell kezeli az első fokozatú visszahívást, és az újrarangsoroló a pontosságot. A mérési szokás a legfontosabb: azok a csapatok, amelyek valós lekérdezéseken követik a visszahívást, tudni fogják, mikor kifizetődik a finomhangolás.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Fine-Tuning Embedding Models for Retrieval quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a beágyazott modellek finomhangolása a visszakereséshez?

A beágyazási modell finomhangolása azt jelenti, hogy a valós lekérdezések párjaira és a rájuk válaszoló dokumentumokra oktatjuk, így az Ön tartományában a releváns szöveg közelebb kerül egymáshoz a vektortérben, mint az irreleváns szöveg. Ez azért fontos, mert a visszakeresés minősége korlátozza a RAG minőségét: ha nem a megfelelő szövegrészt keresi le, a nyelvi modell nem tudja használni, és az általános célú beágyazások gyakran figyelmen kívül hagyják a tartományi szókincset, a rövidítéseket és azt, ahogyan a felhasználók megfogalmazzák a kérdéseket.

Mi a kemény negatívum a finomhangolás beágyazásakor?

A kemény negatívok megosztják a szavakat vagy a témát a lekérdezéssel, de nem helyesek, így finom megkülönböztetéseket tanítanak a modellnek.

Miért hasznosabbak a kemény negatívok, mint a könnyű negatívok?

Az egyszerű negatívok már messze vannak a lekérdezéstől; a kemény negatívumok arra kényszerítik a modellt, hogy megtanulja a finom különbségeket.

Mi a hamis negatív ebben az összefüggésben?

Ha egy feltételezett negatívum valóban releváns, a képzés eltolja a helyes választ, és károsítja a visszakeresést.

Melyik veszteséget használják általában a lekérdezés-passzus párokra beágyazott modellek betanítására?

A kontrasztos veszteségek pozitív eredményt adnak a tételen belüli és kemény negatívokkal szemben, és a pozitívumot a csúcsra tolják.

Miután átváltott egy újonnan finomított beágyazási modellre, mit kell tennie a dokumentumindexszel?

A különböző modellekből származó vektorok nem összehasonlíthatók, ezért a teljes kollekciót újra be kell ágyazni.