LegközelebbKövetkező útmutató
Folytatólagos előképzés vs finomhangolás
Műszaki
Műszaki ÚTMUTATÓ
A beágyazási modell finomhangolása azt jelenti, hogy a valós lekérdezések párjaira és a rájuk válaszoló dokumentumokra oktatjuk, így az Ön tartományában a releváns szöveg közelebb kerül egymáshoz a vektortérben, mint az irreleváns szöveg.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ez azért fontos, mert a visszakeresés minősége korlátozza a RAG minőségét: ha nem a megfelelő szövegrészt keresi le, a nyelvi modell nem tudja használni, és az általános célú beágyazások gyakran figyelmen kívül hagyják a tartományi szókincset, a rövidítéseket és azt, ahogyan a felhasználók megfogalmazzák a kérdéseket.
A beágyazási modell a szöveget vektorokká alakítja, így a szemantikailag hasonló szövegek hasonló vektorokkal rendelkeznek, általában koszinusz hasonlósággal mérve. A RAG-ban a lekérdezések és a dokumentumdarabok is beágyazódnak, és a legközelebbi darabok kerülnek lekérésre. Az általános modelleket a széles web és a kérdés-válasz adatok alapján képezik. Meglehetősen jól működnek mindenhol, de megküzdhetnek a speciális kifejezésekkel, a belső terméknevekkel, valamint a felhasználói kérdés és a dokumentum írásmódja közötti különbséggel. A finomhangolás három formában zárja be ezt a rést a képzési adatokkal. A pozitív párok egy lekérdezés és egy szövegrész, amely megválaszolja. A kötegen belüli negatívok az ugyanabban a betanítási kötegben lévő többi szakaszt használják példaként arra, hogy minek kell alacsonyabb pontszámot elérnie. A kemény negatívok olyan részek, amelyek relevánsnak tűnnek, szavakat vagy témát osztanak meg, de nem válaszolnak a kérdésre. A kemény negatívok megtanítják a legfontosabb különbségeket, mert a könnyű negatívokat az alapmodell már elválasztja. A jó adatforrások közé tartoznak a kattintásokat tartalmazó keresési naplók, a cikkekre hivatkozott támogatási jegyek, a GYIK oldalak és a dokumentumokból nyelvi modell által generált szintetikus lekérdezések. A szintetikus adatok hasznosak, de szűrni kell őket, mivel a generált kérdések gyakran másolják a dokumentum szövegét, és túlságosan megkönnyítik a feladatot. Gyakori tévhit, hogy a finomhangolás az első megoldás a rossz visszakeresésre. Gyakran jobb darabolás, kulcsszavas keresés (például BM25) hozzáadása egy hibrid beállításban, vagy egy átsoroló hozzáadása kisebb erőfeszítéssel nagyobb nyereséget eredményez. A finomhangolás akkor éri meg leginkább, ha felmértünk egy visszakeresési rést, és legalább néhány ezer minőségi párral rendelkezik vagy tud építeni. Egy másik buktató a hamis negatívok: egy bányászott kemény negatív, amely valójában válaszol a lekérdezésre. A modell eltaszítására való betanítása rontja a minőséget. Vegye figyelembe azt is, hogy a beágyazási modell megváltoztatásához a teljes dokumentumgyűjtemény újrabeágyazása szükséges, mivel a régi és az új vektorok nem hasonlíthatók össze.
Egy biztosítótársaság a beágyazásokat az ügyfelek kérdéseinek párjára és a rájuk válaszoló kötvényzárakra tanítja, így a „fedezi-e a telefont, ha leejtem” visszakeresi a véletlen kárról szóló záradékot.
Egy szoftvercég a támogatási jegyek előzményeit használja, és minden jegy kérdését ingyenes képzési adatként párosítja a válaszukban hivatkozott súgócikk-ügynökökkel.
Egy jogi kutatócsoport úgy bányászza ki a kemény negatívumokat, hogy olyan záradékokat vesz fel, amelyek megosztják a kulcsszavakat a lekérdezéssel, de más joghatóságot érintenek, és megtanítják a modellt ezek elkülönítésére.
Egy gyógyszerészeti csapat szintetikus kérdéseket generál belső dokumentumokból egy nyelvi modellel, kiszűri a rossz minőségűeket, és a párokat használja a tartománybeágyazási modell betanításához.
Az általános beágyazási modellek folyamatosan javulnak a nyilvános benchmarkokhoz, például az MTEB-hez képest, amely szűkíti, de nem szünteti meg a tartomány-adaptáció előnyeit, mivel a benchmark adatok ritkán egyeznek meg egy privát korpusszal. A nyelvi modellekkel végzett szintetikus adatgenerálás praktikussá tette a finomhangolást a nagy címkézett adatkészletekkel nem rendelkező csapatok számára. Várható a hibrid csővezetékek további használata, ahol a finomhangolt beágyazási modell kezeli az első fokozatú visszahívást, és az újrarangsoroló a pontosságot. A mérési szokás a legfontosabb: azok a csapatok, amelyek valós lekérdezéseken követik a visszahívást, tudni fogják, mikor kifizetődik a finomhangolás.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A beágyazási modell finomhangolása azt jelenti, hogy a valós lekérdezések párjaira és a rájuk válaszoló dokumentumokra oktatjuk, így az Ön tartományában a releváns szöveg közelebb kerül egymáshoz a vektortérben, mint az irreleváns szöveg. Ez azért fontos, mert a visszakeresés minősége korlátozza a RAG minőségét: ha nem a megfelelő szövegrészt keresi le, a nyelvi modell nem tudja használni, és az általános célú beágyazások gyakran figyelmen kívül hagyják a tartományi szókincset, a rövidítéseket és azt, ahogyan a felhasználók megfogalmazzák a kérdéseket.
A kemény negatívok megosztják a szavakat vagy a témát a lekérdezéssel, de nem helyesek, így finom megkülönböztetéseket tanítanak a modellnek.
Az egyszerű negatívok már messze vannak a lekérdezéstől; a kemény negatívumok arra kényszerítik a modellt, hogy megtanulja a finom különbségeket.
Ha egy feltételezett negatívum valóban releváns, a képzés eltolja a helyes választ, és károsítja a visszakeresést.
A kontrasztos veszteségek pozitív eredményt adnak a tételen belüli és kemény negatívokkal szemben, és a pozitívumot a csúcsra tolják.
A különböző modellekből származó vektorok nem összehasonlíthatók, ezért a teljes kollekciót újra be kell ágyazni.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Folytatólagos előképzés vs finomhangolás
Műszaki