Nyelvi AI ÚTMUTATÓ

Maximális határrelevancia

A Maximum Marginal Relevance (MMR) egy újrarangsorolási módszer, amely egyensúlyt teremt az eredmény relevanciája és a már kiválasztott eredményektől való eltérés között.

2 perc olvasásUtoljára frissítve

Áttekintés

It matters because pure relevance ranking often returns near-duplicate passages that waste space in a RAG context window.

Mély merülés

Amikor egy keresőrendszer pusztán a lekérdezés szempontjából releváns dokumentumokat pontozza, a legjobb eredmények gyakran redundánsak – öt szövegrészlet ugyanazt mondja. A Carbonell és Goldstein által 1998-ban bevezetett MMR ezt úgy javítja ki, hogy egyenként választja ki az eredményeket. Minden lépésben kiválasztja azt a jelöltet, amely maximalizálja a súlyozott keveréket: a lambda szorzata a lekérdezéshez való relevanciájával, mínusz (1 mínusz lambda) szorozza meg a már kiválasztott bármihez való maximális hasonlóságot. Az 1-hez közeli lambda a tiszta relevanciát részesíti előnyben; 0 közelében a sokszínűségnek kedvez. A visszakereséssel kiegészített generációban az MMR népszerű a különböző darabok lekérésére, így a nyelvi modell inkább kiegészítő bizonyítékokat lát, mintsem ugyanazt a tényt ismételgetve, javítva a lefedettséget a kontextus bővítése nélkül.

Technikai betekintés

Az MMR egy mohó, iteratív algoritmus. Mind a relevancia, mind a dokumentumok közötti hasonlóság általában koszinusz hasonlóságként kerül kiszámításra a beágyazási vektorok között. A pontozási képlet a következő: MMR = argmax a [ lambda * sim(doc, query) - (1 - lambda) * max sim(doc, selected) ] fennmaradó dokumentumai felett. Mivel minden körben újraértékeli a növekvő kiválasztott halmazt, sorrendfüggő, és nagyjából O(k*n) hasonlósági összehasonlításban fut n jelöltből k kiválasztottnál.

Stratégiai hatás

Sebesség és méretarány

A nyelvi munkafolyamatok gyorsabban haladhatnak a következetesség feláldozása nélkül.

Hozzáférés és elérés

Kibővíti a hozzáférést a nyelvek és a kommunikációs stílusok között.

Tisztább döntések

A csapatok több időt tölthetnek az ítélkezéssel, míg az automatizálás kezeli az ismétlést.

A maximális határrelevancia jövője

Az MMR továbbra is könnyű alapértelmezett a vektor-adatbázis-kliensekben, mint például a LangChain és a Chroma, ahol egysoros visszakeresési módként kínálják. A jövőbeli rendszerek egyre gyakrabban párosítják a tanult diverzitási célkitűzésekkel, a klaszter alapú kijelöléssel és a keresztkódoló átsorolókkal, amelyek szemantikailag jobban ítélik meg az újdonságot, mint a koszinusz távolságot. Ahogy a kontextusablakok nőnek, a hangsúly a helytakarékosságról a valóban kiegészítő bizonyítékok összegyűjtésére tolódik el, a sokféleség-tudatos kiválasztást, például az MMR-t még akkor is relevánsnak tartva, ha a nyers kapacitás bőséges.

Valós megvalósítás

A RAG csevegőbotok MMR-lekérést használnak, így az első 5 darab egy irányelv különböző aspektusait fedi le, ahelyett, hogy ugyanannak a bekezdésnek öt parafrázisa lenne.

Egy kutatási összefoglaló eszköz az MMR-t alkalmazza olyan szövegrészek kiválasztásához, amelyek minimálisra csökkentik az átfedést, így szélesebb, kevésbé ismétlődő összefoglalót készítenek.

A hírösszesítő a cikkeket az MMR-rel rangsorolja, hogy egy esemény változatos tudósítását mutassa, ahelyett, hogy tíz kiadó ismételné meg a hírt.

A LangChain vektortároló retrieverje a search_type='mmr'-t fetch_k és lambda_mult paraméterekkel teszi közzé a visszaküldött dokumentumok diverzifikálása érdekében.

Kockázatok és védőkorlátok

A hallucinált tények csendben bekerülhetnek a jelentésekbe, a támogatási folyamatokba vagy a kutatási eredményekbe.

Az azonnali érzékenység inkonzisztens eredményeket eredményezhet a hasonló kérések között.

Ha a hozzáférés-szabályozás gyenge, az érzékeny szöveges adatok megjelenhetnek.

Végrehajtási ütemterv

1

A kiadás előtt határozza meg a kimeneti formátumot, hangszínt és minőségi szabványokat.

2

Földelje a válaszokat megbízható forrásokból, amikor a pontosság számít.

3

Tartson emberi ellenőrzési pontot a nagy tétű kimenetekhez.

4

Kövesse nyomon a meghibásodási mintákat, és rendszeresen tanítsa át az utasításokat vagy a munkafolyamatokat.

Folytassa a felfedezést

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Maximum Marginal Relevance quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Kezdő kvíz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Gyakran ismételt kérdések

What is Maximum Marginal Relevance?

A Maximum Marginal Relevance (MMR) egy újrarangsorolási módszer, amely egyensúlyt teremt az eredmény relevanciája és a már kiválasztott eredményektől való eltérés között. Ez azért fontos, mert a tiszta relevancia-rangsorolás gyakran szinte ismétlődő szövegrészeket ad vissza, amelyek helyet pazarolnak egy RAG-kontextus ablakban.

Mi az az elsődleges probléma, amelyet az MMR-nek meg kell oldania?

Az MMR azzal a tendenciával foglalkozik, hogy a csak relevancia szerinti rangsorolás sok olyan eredményt jelenít meg, amelyek lényegében ugyanazt mondják, jutalmazva az újdonságot.

Mit hangsúlyoz az MMR képletben az 1-hez közeli lambda érték?

Lambda súlyok jelentősége; 1 közelében a relevancia kifejezés, míg a 0 közelében a diverzitás (alacsony hasonlóság) kifejezés dominál.

Hogyan választja ki az MMR az eredményeket?

Az MMR egy mohó iteratív módszer: minden választás maximalizálja a relevanciát, mínusz a már kiválasztott elemekhez való maximális hasonlóság.

Milyen hasonlósági mértéket használnak leggyakrabban az MMR-ben szövegbeágyazáshoz?

A beágyazási vektorok közötti koszinusz hasonlóság a standard választás mind a lekérdezés relevanciájához, mind a dokumentumok közötti összehasonlításhoz az MMR-ben.

Miért különösen hasznos az MMR a retrieval-augmented generációban (RAG)?

A visszakeresett darabok diverzifikálásával az MMR segít a modellnek abban, hogy változatos bizonyítékokat lásson ahelyett, hogy ugyanazt a tényt ismételgetné, javítva a lefedettséget.